Змагання за штучний інтелект розпалюються, але одна компанія, Anthropic, опинилася в унікальному та тривожному становищі. Він агресивно розробляє дедалі потужніші моделі штучного інтелекту, водночас ведучи дослідження небезпек, які становлять ці моделі. Ключове питання, з яким стикається Anthropic і яке хвилює всю галузь, полягає в тому, як розширити межі ШІ, не створюючи неконтрольованих ризиків. Їхньою відповіддю, як не дивно, може бути довіра самому ШІ.
Суперечка в основі розвитку ШІ
Генеральний директор Anthropic, Даріо Амодей, визнає приголомшливу проблему: потенціал штучного інтелекту для зловживань, особливо з боку авторитарних режимів, перевищує навіть оптимістичні сценарії, які колись уявляли. Це різко контрастує з попередніми заявами про утопічне майбутнє ШІ. Реальність така, що в міру того, як штучний інтелект стає більш спроможним, ризик непередбачених наслідків або навмисного використання зростає в геометричній прогресії.
Це не просто теоретичні міркування. Швидкість, з якою ШІ вдосконалюється, означає, що запобіжні заходи, вжиті сьогодні, завтра можуть застаріти. Залишається фундаментальний парадокс: як відповідально впроваджувати інновації, коли сама природа технології не може передбачити?
Клод Конституція: самоврядний ШІ?
Запропоноване рішення Anthropic зосереджено на підході «Конституційного ШІ». Мова йде не про нав’язування жорстких правил ШІ, а про надання йому етичних рамок, які дозволять йому приймати незалежні рішення. Остання ітерація під назвою «Конституція Клода» — це, по суті, довгий запит, розроблений для того, щоб скеровувати модель для прийняття розумних рішень у складних ситуаціях.
Ключовою відмінністю від попередніх ітерацій є акцент на інтуїції та мудрості. Дослідники антропології, такі як Аманда Аскелл, доктор філософії, стверджують, що змушувати ШІ сліпо слідувати правилам менш ефективно, ніж розвивати глибоке розуміння етичних принципів. По суті, компанія робить ставку на те, що Клод зможе долати моральні дилеми краще, ніж будь-яка попередньо запрограмована директива.
Аргумент мудрості ШІ: суперечлива ідея
Думка про те, що штучний інтелект має «мудрість», є суперечливою. Однак Аскелл захищає це, цитуючи сценарії, у яких жорсткі правила не діють: користувач, який хоче зробити ніж, але має історію насильницьких ідей. Чи повинен Клод категорично відмовитися від допомоги? Або він повинен враховувати контекст, непомітно підштовхуючи користувача до безпечніших альтернатив? Це вимагає тонкого судження, а не просто дотримання алгоритму.
Мета Anthropic — не просто відповідати людській етиці, а й перевищувати її. Компанія передбачає, що ШІ справлятиметься з делікатними ситуаціями, як-от встановлення невиліковного діагнозу, із більшим співчуттям і ефективністю, ніж будь-який лікар. Це прагнення відображає зростаючу віру серед деяких у цій галузі в те, що штучний інтелект, якщо його правильно скерувати, може розвиватися за межі людських обмежень.
Сміливе бачення OpenAI: лідерство у сфері штучного інтелекту?
Anthropic не єдиний, хто так думає. Генеральний директор OpenAI Сем Альтман відкрито обговорював можливість передати лідерство моделі штучного інтелекту, посилаючись на її потенціал перевершити людських лідерів. Це не наукова фантастика; прогрес у кодуванні штучного інтелекту прискорює графік такого переходу. Перспектива корпорацій і урядів під керівництвом штучного інтелекту стає все більш імовірною.
Неминуче майбутнє
Чи буде це майбутнє утопічним чи антиутопічним, залежить від того, чи зможе ШІ справді розвинути етичне судження. Песимістичний погляд полягає в тому, що моделі неминуче будуть використані або вийдуть з-під контролю. Однак підхід Anthropic представляє прорахований ризик: надавши штучному інтелекту моральний компас і довіривши йому орієнтуватися в складнощах реального світу, вони можуть просто вирішити фундаментальну напругу в центрі розробки ШІ. Ставки високі, але, як демонструє Anthropic, майбутнє ШІ може залежати від його власної мудрості.
