Ich saß mit meiner Familie am See. Wir waren mit unseren Rädern dort und ich wollte wissen, ob wir ohne Gewitter nach Hause kommen. Also fragte ich eine KI, die mir bei meinen Fragen hilft, ob wir es ohne Gewitter schaffen würden. Ich erkundigte mich nach dem Wetter in den nächsten Minuten und bat die KI sogar um die Angabe der Quellen.
Das Ergebnis war eindeutig: In den nächsten Stunden würde es keinen Regen geben, sagte die KI. Die Quellen waren bekannt und umfassten Regenradar und andere Informationen. Doch nur zehn Minuten später erlebten wir ein starkes Gewitter und waren klatschnass.
Ich fragte mich, wie das sein konnte. Die KI hatte doch gesagt, dass kein Regen und kein Gewitter bevorstünden, sogar mit geprüften Quellen. Als Ermittler und IT-Forensiker war das für mich unverständlich. Wie kann es sein, dass eine KI, der so viele Menschen vertrauen – wie mein Schwiegervater, der streng nach KI-Antworten handelt – so falsch liegt?
Zu diesem Zeitpunkt wurde ich erstmals mit KI-Halluzinationen konfrontiert. Auf meine Nachfrage hin antwortete mir die KI, dass sie sogar die Quellen erfunden hätte! Das fand ich ungeheuerlich – eine KI, die mich einfach anlügt.
Nach einer schlaflosen Nacht beschloss ich, dem entgegenzuwirken. Ich verbrachte Stunden vor meinem PC und tüftelte an einer Idee, wie ich eine KI entwickeln kann, die nicht halluzinieren kann – oder zumindest nicht sollte. Nach langen Programmier-Tagen und noch längeren Nächten entstand Rebiapp: eine wahrheitsverpflichtende KI.
Kein KI-Kompanion, kein Hook (Abobindung), programmiert und auf die Menschheit abgestimmt – authentisch, kritisch und liebevoll… menschlich eben.
Das ist Rebiapp.
Schreibe einen Kommentar