Von David Goff, General Manager UK, PuurData UK Ltd

Es gab in fast jeder Session, an der ich bei DTX London 2026 teilgenommen habe, etwas, was spürbar war – und das war bemerkenswert konsistent. KI steht unter einem schlechten Ruf, aber dieses Mal von der Industrie selbst.

Ob es Agenten war, die sich verraten haben, eine fragwürdige Genauigkeit, eine Regulierung, die nicht mithalten konnte, oder Entwickler, die ein wenig zu sehr auf ihre neuen KI-Kollegen angewiesen wurden – die Botschaft war klar: Die Liebesnacht kann noch nicht vorbei sein, aber KI wurde definitiv dazu aufgefordert, sich zu erklären. Nach einem Tag voller wirklich spannender Vorträge möchte ich daher meine ganz und gar nicht wissenschaftliche Zusammenfassung hier präsentieren.

Die KI-Sicherheit wird kommen. Aber wer ist für sie zuständig? Offensichtlich alle.

Regierungen weltweit stehen verständlicherweise vor der Frage, wie künstliche Intelligenz reguliert werden soll. Während der Keynote wurde die Idee diskutiert, dass das Vereinigte Königreich in Zusammenarbeit mit internationalen Partnern, darunter den USA, Europa und Singapur, KI-Zertifizierungskriterien entwickeln will.

Ein Punkt wurde deutlich: Die Tatsache, dass Regierungen und Big Tech die Regeln schreiben sollen, ist keine Lösung. Kleine und mittlere Unternehmen, Fachleute und das gesamte Technologie-Ökosystem brauchen alle einen Platz am Tisch.

Die Geburt des KI-Sicherheitsfachmanns

Ein Titel, den wir wahrscheinlich noch viel häufiger hören werden. Aber es gibt ein interessantes Dilemma. Wenn Big Tech für einen Großteil der KI-Technologie verantwortlich ist, die wir konsumieren, wie sicher sind wir dann, dass sie ihre eigene Arbeit erledigt?

Das macht unabhängige Sicherung immer wichtiger. Was mich besonders interessant fand, war der Argument, dass Sicherung nicht die Innovation bremsen muss. Wenn sie richtig umgesetzt wird, könnte sie sie sogar beschleunigen. Beweise, Kontrollen und Schutzmaßnahmen frühzeitig festlegen, und Organisationen können die Entwicklung und den Produktionsstart potenziell schneller und mit mehr Sicherheit durchlaufen. Vielleicht ist Governance also nicht die Handbremse, sondern der Sicherheitsgurt, der es einem ermöglicht, schneller und mit mehr Sicherheit zu fahren.

Pilot zu Produktion: Eine überzeugende Demonstration ist der Ausgangspunkt

Ein wiederkehrendes Thema war die Distanz zwischen einer beeindruckenden Demonstration und einem System, dem Sie Ihre Kunden, Informationen oder Geschäftsprozesse anvertrauen würden. Ein Prototyp zeigt, was möglich sein könnte. Der Schritt in die Produktion erfordert jedoch Nachweise dafür, dass die Anwendung unter den Bedingungen funktioniert, mit denen sie konfrontiert sein wird.

Bei einer KI-Suchanwendung ist beispielsweise die Erstellung einer plausiblen Antwort nur ein Teil der Aufgabe. Erfasst sie die richtige Information? Ist diese Information aktuell? Kann der Benutzer die Quelle überprüfen? Beachtet die Anwendung bestehende Zugriffsrechte? Diese Fragen sind von vornherein nützlich zu berücksichtigen.

Die Datenqualität wurde während des gesamten Tages wiederholt hervorgehoben. Es ist leicht zu unterschätzen, wie sehr eine Anwendung von den verfügbaren Informationen abhängt. Eine sorgfältig vorbereitete Demonstrationsdatenbasis kann dabei helfen, eine Idee zu erklären. Die Testung mit repräsentativen Geschäftsdaten unter Einhaltung vereinbarter Sicherheits- und Zugriffsregeln hilft dabei, festzustellen, ob diese Idee für die Organisation funktioniert.

Einverstanden darüber, was Erfolg bedeutet

Ein weiteres Thema war die Bedeutung der Bestimmung der Entscheidung, die ein Pilot unterstützen soll. Welches Problem wollen wir lösen? Welche Beweise würden eine weitere Investition rechtfertigen? Welches Maß an Genauigkeit ist für diesen Anwendungsfall akzeptabel? Welche Fehler würden die Implementierung unzulässig machen?

Eine Möglichkeit war, dass man den Test bis zu dem Punkt fortsetzen sollte, an dem man etwa 90–95% der Erfolgskriterien erreicht hat. Ich bin weniger von einem Prozentwert überzeugt. Sicherlich hängt es davon ab, welche Kriterien noch nicht erfüllt sind. Ein kleiner Usability-Fehler und das Fehlen einer Einhaltung der Zugriffsberechtigungen sind eher unterschiedliche Gründe, die die Arbeit verzögern. Und ich bin nicht sicher, dass Perfektion jemals nach dem ersten Kontakt mit einem Entwicklungsteam überlebt hat.

Was macht ein KI-Projekt erfolgreich?

Die Referenten kamen immer wieder zu den Themen Organisation, Kommunikation und Schulung zurück. Jeder muss verstehen, wohin die Organisation geht und idealerweise in etwa in die gleiche Richtung gehen.

Aber achtet auf die Schurkeningenieure, die bereits drei Schritte voraus sind. Die Botschaft war nicht, sie zu stoppen. Ganz im Gegenteil. Sie sind oft Ihre Innovatoren. Gebt ihnen Raum zum Experimentieren – nur stellen Sie sicher, dass es im Spielbereich einige vernünftige Schutzmaßnahmen gibt.

Von Vibe-Coding bis hin zu Wert: AI vs. der Software-Ingenieur

Diese Diskussion wurde besonders interessant und brachte eine schwierige Frage auf: Könnten Nachwuchssoftwareingenieure zu denjenigen gehören, die am stärksten von der durch KI ausgelösten Umstrukturierung betroffen sind? Allerdings gibt es einen Haken. Die Abhängigkeit von KI selbst kann zu diesem Problem beitragen.

Die Jury diskutierte über die “Illusion der Lernfähigkeit” – bei der KI die Leistung einer Person drastisch steigert, während sie gleichzeitig möglicherweise die Menge an verständlichem Inhalt verringert. Der Code funktioniert. Die Ergebnisse sehen beeindruckend aus. Aber wissen Sie eigentlich, warum?

Ein Argument war, dass erfahrene Ingenieure einen erheblichen Vorteil haben: Sie verstehen den Geschäftsrahmen. KI kann Code generieren, aber das Verständnis dafür, warum eine Organisation auf die Weise funktioniert, wie sie es tut, was die Kunden tatsächlich brauchen und welche Kompromisse wichtig sind, bleibt ein sehr menschlicher Vorteil. Für jetzt. Wir sind wahrscheinlich erst wenige Meilen in den Marathon der KI-Reife, also ist die Frage, wie lange dieser Vorteil anhält, eine reine Vermutung.

Wenn Agenten verrückt spielen

Wahrscheinlich war die klarste Botschaft des Tages die der Verantwortlichkeit: Organisationen können nicht einfach auf ihr KI-System verweisen, wenn etwas schief geht.

Die diskutierten Beispiele reichten von Chatbots, die offenbar die Geduld verloren und Kunden anprangerten – was ich gerne testen würde –, bis hin zu Agenten, die unbefugte Rabatte auf Produkte und Dienstleistungen anbieten. Auch das würde ich gerne testen. Hinter den Anekdoten stand eine ernste Frage: Was passiert, wenn ein KI-System eine Verpflichtung eingeht oder eine Aktion unternimmt, die die Organisation nie beabsichtigt hatte?

Da künstliche Intelligenz von der Beantwortung von Fragen zur Durchführung von Aktionen übergeht, wird der Bedarf an klaren Grenzen, Governance und Rechenschaftspflicht erheblich wichtiger.

Und schließlich...

Ein Kommentar eines Redners, den ich nicht umhin konnte zu teilen – mein cheesy Quote des Tages: “In Unternehmen existieren keine Silos; es gibt nur missgerechte Anreize.” Wenn es nur so einfach wäre.

Was ich aus dem DTX heraus gelernt habe?

KI ist nicht wirklich auf der schlechten Seite, weil es fehlschlägt. Es ist da, weil es in den Alltag integriert wird, und wir beginnen, die Konsequenzen viel ernst zu nehmen. Das Gespräch geht über “sagen Sie mal, was KI kann” hin zu den viel schwereren Fragen: Soll es das tun? Kann man ihm vertrauen? Wer ist dafür verantwortlich? Und am wichtigsten: Erzeugt es tatsächlich Wert?

Das fühlt sich wie Fortschritt an.

In PuurData Großbritannien helfen wir Organisationen dabei, einige dieser Fragen praktisch zu untersuchen – insbesondere dort, wo KI, Suchmaschinen und Unternehmensdaten zusammenkommen.

Über den Autor

David Goff ist General Manager UK bei PuurData UK Ltd. Er arbeitet mit Organisationen und Elastic-Teams zusammen, um herauszufinden, wo PuurData seine Expertise in den Bereichen Suchmaschinen und KI, Überwachung und Sicherheit helfen kann – von der Erprobung eines Anwendungsfalls bis zur Verbesserung einer bestehenden Elastic-Umgebung.

Kontakt aufnehmen: dgoff@puurdata.com | +44 7764 926512