Довіра до ШІ: нове рішення для подолання упередженості та ілюзій штучного інтелекту

Нещодавно мережевий публічний тестовий проект під назвою Mira привернув увагу в галузі. Мета цього проекту – створити рівень довіри для штучного інтелекту, спрямований на вирішення проблем упередженості та "галюцинацій" в системах ШІ. Отже, чому ШІ потребує довіри? Як Mira справляється з цим викликом?

Під час обговорення ШІ люди часто більше зосереджуються на його потужних можливостях. Проте факт існування у ШІ "ілюзій" або упереджень часто ігнорується. Що стосується "ілюзій" ШІ, простими словами, це означає, що ШІ іноді може "вимислити", впевнено надаючи хибну інформацію. Наприклад, коли його запитують, чому місяць рожевий, ШІ може надати здавалося б розумне, але повністю вигадане пояснення.

Це явище пов'язане з сучасними шляхами розвитку технологій ШІ. Генеративний ШІ досягає узгодженості та раціональності шляхом прогнозування "найімовірнішого" змісту, але цей метод важко перевірити на достовірність. Крім того, самі навчальні дані можуть містити помилки, упередження або навіть вигадані матеріали, що впливають на якість виходу ШІ. Іншими словами, ШІ вивчає мовні моделі людей, а не самі факти.

Поточний механізм генерації ймовірностей та модель, що базується на даних, майже неминуче призводять до "галюцинацій" AI. Хоча в загальних знаннях чи розважальному контенті ця проблема може не призвести до серйозних наслідків, у таких сферах, як медицина, право, авіація, фінанси, де потрібна висока точність, помилкові результати AI можуть мати значний вплив. Тому вирішення проблеми галюцинацій і упереджень AI стало одним з ключових питань у процесі розвитку AI.

Проект Mira саме покликаний вирішити цю проблему. Він намагається зменшити упередженість і ілюзії, підвищуючи надійність ШІ, шляхом створення рівня довіри до ШІ. Основна ідея Mira полягає в тому, щоб використовувати консенсус кількох моделей ШІ для перевірки виходу ШІ. Ця мережа перевірки використовує децентралізований механізм консенсусу, поєднуючи співпрацю кількох моделей, щоб знизити ймовірність виникнення упередженості та ілюзій через колективну модель перевірки.

У контексті перевірки архітектури, протокол Mira підтримує перетворення складного контенту на незалежно перевіряємi заяви. Оператори вузлів беруть участь у перевірці цих заяв, а для забезпечення чесності операторів вузлів система використовує механізм криптоекономічних стимулів/покарань. Різні AI моделі та децентралізовані оператори вузлів спільно беруть участь, щоб гарантувати надійність результатів перевірки.

Мережна архітектура Mira включає три ключові етапи: перетворення контенту, розподілену верифікацію та механізм консенсусу. По-перше, система розбиває кандидатний контент, поданий клієнтом, на різні перевіряємi заяви, які розподіляються між вузлами для верифікації. Після того, як вузли визначають дійсність заяви, результати узагальнюються для досягнення консенсусу, а потім результати повертаються клієнту. Для захисту конфіденційності клієнта заяви будуть розподілятися між різними вузлами випадковими фрагментами, щоб запобігти витоку інформації під час процесу верифікації.

Оператори вузлів отримують доходи, запускаючи модель валідації, обробляючи заяви та подаючи результати валідації. Ці доходи походять від створення цінності для клієнтів, особливо у зниженні рівня помилок AI у ключових сферах. Щоб запобігти спекулятивній поведінці вузлів, які відповідають випадковим чином, система штрафує вузли, які постійно відхиляються від консенсусу, забезпечуючи чесну участь операторів вузлів у валідації через економічні механізми.

В цілому, Mira пропонує новий підхід для підвищення надійності ШІ. Створюючи децентралізовану мережу верифікації консенсусу на основі кількох моделей ШІ, Mira має на меті забезпечити вищу надійність ШІ-сервісів для клієнтів, зменшити упередженість та ілюзії ШІ, задовольнити вимоги до високої точності та прецизійності. Ця інновація має потенціал сприяти глибшому розвитку застосувань ШІ, прокладаючи шлях до створення надійних систем ШІ.

Наразі Mira вже налагодила співпрацю з кількома відомими AI-рамками. З запуском публічної тестової мережі користувачі можуть через Klok (додаток для чату на базі Mira з LLM) отримувати перевірені AI-виходи та мати можливість заробити бали Mira. Це забезпечує практичну тестову платформу для підвищення довіри до AI в майбутньому.