ทันเอไอ

Lucius AI propone que la IA que redacta pliegos 'se niegue a mentir' en lugar de inventar contenido vacío

La startup Lucius AI revela su enfoque para diseñar una IA que ayude a redactar documentos de licitación, enseñando al sistema a 'negarse a escribir' cuando no hay evidencia que lo respalde, en lugar de inventar información

El gran problema de usar IA para ayudar a redactar documentos de licitación (Tender/Bid) es que la IA suele 'alucinar' o inventar datos falsos para que el contenido parezca creíble, algo que en una licitación es catastrófico, ya que puede hacer que la empresa pierda credibilidad o quede directamente descalificada.

Davor Jerković, fundador de Lucius AI, explicó en el blog de la empresa que su equipo optó por resolver este problema de una manera diferente: en lugar de intentar que la IA siempre redacte contenido completo, el sistema está diseñado para 'negarse a escribir' (Refusal) en las secciones que no cuentan con información que las respalde.

El mecanismo funciona así: el sistema verifica las capacidades reales del licitador frente a los requisitos del pliego antes de empezar a redactar. Si encuentra secciones sin evidencia suficiente, no las inventa, sino que las marca en un 'espacio para socios' (Partner slot) y muestra un banner de advertencia en la parte superior del documento indicando qué puntos aún no han sido verificados, como la falta de una cualificación específica, para que el equipo busque un socio que cubra ese vacío.

Más interesante aún: el sistema se niega a redactar el documento desde el principio si evalúa que la licitación 'no tiene posibilidades de ganarse' o no merece la pena presentarse, para evitar generar documentos que se vean bien pero carezcan de veracidad.

Este enfoque coincide con los análisis del sector legal-tech y de licitaciones, que sostienen que para trabajos que exigen alta precisión, la capacidad de la IA de 'no escribir lo que no sabe' es más importante y necesaria que intentar aparentar ser más capaz de lo que realmente es. No obstante, esta información procede únicamente del blog del propio desarrollador, por lo que conviene tomarla con cautela, ya que podría formar parte de la promoción del producto de la empresa.