У меня было достаточно моментов, когда ответ ИИ казался правильным, а затем одна быстрая проверка доказала, что он был уверенно неверным. Подход Мира в основном является решением этой конкретной проблемы: он не заставляет вас доверять одной модели. Он заставляет ответ выжить в процессе консенсуса.
Ответ разбивается на более мелкие, проверяемые утверждения («шардинг»), и эти утверждения отправляются независимым узлам-верификаторам для оценки. Сеть затем агрегирует голоса и принимает только то, что превышает порог консенсуса, выдавая криптографический сертификат того, что было проверено и как это было разрешено.
Ограничение экономическое. Узлы ставят ценность для участия, зарабатывают награды за честную проверку и могут быть наказаны, если они постоянно отклоняются или ведут себя так, будто они угадывают. Это делает «галлюцинации с уверенностью» затратными на уровне сети. Поэтому система направлена на точность, а не на стиль.
MIRA
--
--