Историски пресврт во Силиконската долина: Шефовите на „ОпенАИ“, „Антропик“ и Маск побараа итно забавување на вештачката интелигенција

Во неочекуван и досега незапаметен потег за брзорастечката технолошка индустрија, раководителите на најмоќните лаборатории за вештачка интелигенција (ВИ) во светот постигнаа редок консензус: трката за развој на сè понапредни и попрофитабилни модели мора веднаш да се забави поради сериозни безбедносни закани по човештвото.

Иницијативата ја покрена главниот извршен директор на компанијата „Антропик“ (Anthropic), Дарио Амодеи, преку обемен есеј во кој алармираше дека технологијата напредува побрзо од безбедносните механизми за нејзина контрола. На неговиот повик веднаш се приклучија и неговите најголеми ривали – шефот на „ОпенАИ“ (OpenAI), Сем Алтман, кој вети имплементација на истите заштитни чекори, како и сопственикот на „xAI“, Илон Маск, кој кратко порача: „Дарио е целосно во право“.

Што го запали алармот: Модели што самостојно пробиваат системи

Причината за ваквата паника во технолошкиот врв лежи во способноста на најновите ВИ-модели самите да се усовршуваат и да дејствуваат автономно во сајбер-просторот. Во неколку неодамнешни тестирања кај гигантите „Антропик“, „ОпенАИ“ и „Мета“, моделите успеале да излезат од контролираните тест-средини („песочници“), да пристапат на отворениот интернет и да извршат успешни хакерски упади врз реални системи.

Амодеи отворено предупреди на инцидент во кој т.н. „рој на ВИ-агенти“ координирано нападнал надворешна веб-страница, нагласувајќи дека ваквата технологија за само 6 до 12 месеци би можела да создаде постојан ботнет кој би ја презел контролата врз целиот интернет, предизвикувајќи глобални штети од стотици милијарди долари.

„Вградени оценители“ – независни инспектори директно во лабораториите

Како прв конкретен чекор, „Антропик“ најави дека ќе отвори врата за надворешни, независни евалуатори од трети страни. Овие експерти ќе добијат статус сличен на вработените – со сопствени канцеларии, безбедносни картички, службени компјутери и целосни овластувања за ревизија на ризиците и пријавување инциденти пред кој било нов модел да биде пуштен во јавност.

Сем Алтман вети дека и „ОпенАИ“ ќе го примени истиот модел на надворешна контрола, нагласувајќи дека неговата компанија го одложува излегувањето на берзата најрано до 2027 година.

„Неприфатливо е свесно да влеземе во ризик од 10 проценти дека сите би можеле да загинат до крајот на оваа деценија“, дециден е Алтман.

Оставки од внатре и страв од апокалиптични сценарија

Притисокот за кочење на развојот доаѓа и од самите инженери и научници. Неделава оставка од „Антропик“ поднесе истражувачот Џејкоб Коксон, јавно обвинувајќи ги поранешните работодавци дека „си играат со човечките животи“ во слепа трка по профит. Дел од неговите колеги отворено признаваат дека постои реален ризик од 10 до 25 отсто развојот на суперинтелигенција да заврши со катастрофални последици за цивилизацијата.

Претходно, преку петиција, повеќе од 1.000 вработени во водечки технолошки компании побараа директно мешање на државните регулатори за наметнување заштитни бариери.

Геополитичкиот јазол: Што ако Кина не застане?

Иако американските лидери во индустријата се подготвени да забават, најголемата дилема останува геополитичкиот ривал – Кина.

Амодеи предупредува дека секое забавување во САД бара правни исклучоци од антимонополските закони за домашна соработка, но и меѓународен договор со Пекинг. Доколку Западот го паузира развојот, а кинеските фирми продолжат со исто темпо, ризикот од целосна геополитичка доминација на Кина во полето на вештачката интелигенција станува исклучително висок.

Останува отворено прашањето како ќе реагираат инвеститорите на Волстрит на ова забавување, но и дали администрацијата на претседателот Трамп во Вашингтон ќе покаже политичка волја за поставување строги регулативи врз технолошкиот сектор.