MIRA: Verificação de IA Descentralizada para Resolver o Problema de Confiança.
Parte A: A Crise de Confiabilidade na IA Moderna.
Finanças, saúde, mídia e desenvolvimento de software estão todos mudando rapidamente com base na inteligência artificial. A inteligência de máquina está encontrando seu caminho em decisões de alto valor; existem sistemas de negociação automatizados e até copilotos de IA para ajudar desenvolvedores. Não obstante sua força, a IA é culpada de uma falha fatal: não garante precisão.
Grandes modelos de linguagem são construídos de uma maneira que fornecem a resposta estatisticamente mais provável. Eles são feitos para ser fluentes em vez de verdadeiros. Essa é a razão pela qual os sistemas de IA podem fornecer respostas altamente confiantes, que são parcialmente incorretas ou completamente fabricadas, o que é comumente chamado de alucinação.