Lucius AI propose une approche où l'IA qui rédige les dossiers d'appel d'offres « refuse de mentir » plutôt que d'inventer du contenu
La startup Lucius AI dévoile sa conception d'une IA d'aide à la rédaction de dossiers d'appel d'offres : le système est entraîné à « refuser d'écrire » lorsqu'il manque de preuves, au lieu d'inventer des informations
Le principal problème de l'utilisation de l'IA pour rédiger des dossiers d'appel d'offres (tender/bid) est sa tendance à « halluciner », c'est-à-dire à inventer de fausses informations pour rendre le contenu crédible. Dans le cadre d'un appel d'offres, c'est une catastrophe : l'entreprise peut perdre sa crédibilité, voire être disqualifiée.
Davor Jerković, fondateur de Lucius AI, explique sur le blog de l'entreprise que son équipe a choisi de résoudre ce problème différemment : plutôt que de chercher à ce que l'IA rédige toujours un contenu complet, le système est conçu pour « refuser d'écrire » (refusal) les sections pour lesquelles il ne dispose pas de données probantes.
Le mécanisme fonctionne ainsi : le système vérifie d'abord les capacités réelles du soumissionnaire par rapport aux exigences du cahier des charges avant de commencer la rédaction. S'il détecte une section sans preuve suffisante, il ne l'invente pas, mais la signale dans un « emplacement partenaire » (partner slot), avec une bannière d'avertissement en tête du document indiquant les éléments non confirmés — par exemple l'absence d'une qualification spécifique — afin que l'équipe trouve un partenaire pour compléter le dossier.
Plus intéressant encore, le système refuse carrément de rédiger le document dès le départ s'il estime que l'appel d'offres est « impossible à gagner » ou ne vaut pas la peine d'être soumis, afin d'éviter de produire un document séduisant mais dénué de vérité.
Cette approche rejoint les analyses du secteur des technologies juridiques et des appels d'offres, selon lesquelles, pour les tâches exigeant une grande précision, la capacité de l'IA à « ne pas écrire ce qu'elle ne sait pas » est plus importante et plus nécessaire que de vouloir paraître plus compétente qu'elle ne l'est. Toutefois, ces informations proviennent d'une seule source — le blog du développeur lui-même — et doivent donc être considérées avec prudence, car elles peuvent relever de la promotion du produit de l'entreprise.
De nombreuses entreprises thaïlandaises qui soumissionnent à des marchés publics et privés commencent à utiliser l'IA pour rédiger leurs dossiers. Cette approche montre que choisir une IA capable de « refuser » lorsqu'elle manque de données réelles est tout aussi crucial : une seule fausse information peut suffire à être disqualifié d'un appel d'offres.