Halluzination ist kein Fehler:
Es ist eine Design-Eigenschaft der GenAI-Systemarchitektur.
Diese Unterscheidung ist für die Steuerung von enormer Bedeutung:
Ein Fehler kann behoben und geschlossen werden. Eine Eigenschaft muss kontinuierlich verwaltet werden, mit Kontrollen, Überwachung und einer getesteten menschlichen Übersteuerung.
Wir haben bereits beobachtet, was passiert, wenn Organisationen es als Fehler behandeln: renommierte Firmen, die durch KI-entworfene Arbeiten in Verlegenheit gebracht werden, die niemand überprüft hat, erfahrene Anwälte, die Schriftsätze mit nie existierenden Zitaten einreichen.
Associate Professor Andy Schmulow, einer der Befürworter des Buches, bringt es auf den Punkt: „...Mitarbeiter und sogar Führungskräfte sparen Kosten, lassen sich ihre Arbeit von KI erledigen und überprüfen nicht, was dabei herauskommt.“ Sein Urteil über das Buch: „Es sollte als unverzichtbar angesehen werden.“
Enterprise-wide AI Risk Management® (EW-AiRM®) ewairm.com behandelt Halluzinationen, Drift und Modellkollaps als Dauergäste in der Risikolandschaft und baut die Kontrollen um diese Realität herum auf.