ทันเอไอ

Lucius AI, AI 입찰 문서 작성의 새로운 접근법 제시… '거짓말을 거부'하고 얼렁뚱땅 내용 채우지 않도록 설계

스타트업 Lucius AI, 입찰 문서 작성을 돕는 AI 설계 철학 공개… 근거가 없으면 지어내는 대신 '작성을 거부'하도록 시스템을 가르쳐

AI를 활용해 입찰 문서(Tender/Bid)를 작성할 때 가장 큰 문제는 AI가 내용을 그럴듯하게 만들기 위해 '환각'(Hallucination), 즉 허위 정보를 지어낸다는 점이다. 입찰 업무에서 이는 재앙이나 다름없다. 회사의 신뢰를 잃거나 입찰 자격이 박탈될 수 있기 때문이다.

Lucius AI의 창업자 Davor Jerković는 회사 블로그를 통해 자사 팀이 이 문제를 다른 방식으로 해결했다고 밝혔다. AI가 항상 완전한 내용을 작성하도록 애쓰는 대신, 뒷받침할 데이터가 없는 부분에서는 시스템이 '작성을 거부'(Refusal)하도록 설계했다는 것이다.

작동 방식은 이렇다. 시스템은 작성을 시작하기 전에 입찰 참가자의 실제 역량을 문서상의 요구 사항과 대조한다. 확인할 근거가 충분하지 않은 부분을 발견하면 지어내지 않고, 대신 '파트너 슬롯'(Partner slot)에 해당 항목을 표시하고 문서 상단에 아직 검증되지 않은 항목이 있음을 알리는 배너를 띄운다. 예를 들어 특정 자격 요건이 부족한 경우, 팀이 파트너를 찾아 그 공백을 채우도록 안내하는 식이다.

더욱 흥미로운 점은, 해당 입찰이 '승산이 없다'거나 제안할 가치가 없다고 평가되면 시스템이 아예 처음부터 문서 초안 작성을 거부한다는 것이다. 보기에는 좋지만 사실이 아닌 문서가 만들어지는 것을 원천 차단하기 위해서다.

이러한 접근법은 법률 기술 및 입찰 업계의 분석가들의 견해와도 맞닿아 있다. 정확성이 중요한 업무에서는 AI의 '모르면 쓰지 않는' 특성이 잘난 척하는 것보다 더 중요하고 필요하다는 시각이다. 다만 이 정보는 개발사 자체 블로그라는 단일 출처에서 나온 것이므로, 회사의 제품 홍보 성격이 있을 수 있다는 점을 유의하고 받아들여야 한다.