Lucius AI zeigt Ansatz, bei dem KI Ausschreibungsdokumente schreibt – und „sich weigert zu lügen", statt Inhalte frei zu erfinden
Das Startup Lucius AI stellt sein Konzept für eine KI vor, die beim Schreiben von Ausschreibungsdokumenten hilft: Das System lernt, das Schreiben zu „verweigern", wenn keine Belege vorliegen – statt Inhalte selbst zu erfinden.
Das große Problem beim Einsatz von KI zum Schreiben von Ausschreibungsdokumenten (Tender/Bid) ist, dass KI häufig „halluziniert" (Hallucination) oder falsche Informationen erfindet, damit der Inhalt glaubwürdig wirkt. Bei Ausschreibungen ist das fatal, denn es kann dazu führen, dass ein Unternehmen seine Glaubwürdigkeit verliert oder sogar von der Ausschreibung ausgeschlossen wird.
Davor Jerković, Gründer von Lucius AI, erklärt im Blog des Unternehmens, dass sein Team dieses Problem auf eine andere Weise angeht: Statt die KI dazu zu bringen, Inhalte immer vollständig zu schreiben, wurde das System so konzipiert, dass es das Schreiben „verweigert" (Refusal), wenn keine unterstützenden Daten vorhanden sind.
Der Mechanismus funktioniert so: Das System prüft vor Beginn des Schreibens die tatsächlichen Fähigkeiten des Bieters gegen die Anforderungen im Dokument. Werden Bereiche gefunden, für die keine ausreichenden Nachweise vorliegen, erfindet das System nichts, sondern vermerkt diese in einem „Partner-Slot" (Partner slot) und zeigt ein Hinweis-Banner im Kopfbereich des Dokuments an, welche Punkte noch nicht bestätigt sind – etwa fehlende spezifische Qualifikationen –, damit das Team Partner hinzuziehen kann, um diese Lücken zu schließen.
Noch interessanter: Das System verweigert die Erstellung eines Entwurfs von vornherein, wenn es einschätzt, dass die Ausschreibung „nicht zu gewinnen" oder eine Bewerbung nicht lohnenswert ist – um zu verhindern, dass ein Dokument entsteht, das gut aussieht, aber jeder Substanz entbehrt.
Dieses Konzept deckt sich mit Analysen aus dem Bereich Legal Tech und Ausschreibungswesen, die für Arbeiten mit hohen Genauigkeitsanforderungen die Eigenschaft „Was ich nicht weiß, schreibe ich nicht" bei KI als wichtiger und notwendiger erachten als den Versuch, kompetenter zu erscheinen, als man ist. Allerdings stammen diese Informationen ausschließlich aus dem Blog des Entwicklers selbst und sollten daher mit Vorsicht betrachtet werden, da sie Teil der Produktpräsentation des Unternehmens sein könnten.
Viele thailändische Unternehmen, die sich an öffentlichen und privaten Ausschreibungen beteiligen, beginnen, KI zum Erstellen von Dokumenten einzusetzen. Dieses Konzept zeigt: Die Wahl einer KI, die bei fehlenden echten Daten „verweigern" kann, ist ebenso wichtig – denn schon eine einzige falsche Angabe kann zum Ausschluss von der Ausschreibung führen.