ТЕХНОЛОШКИ АЛАРМ: Вештачка интелигенција создала лажни идентитети за сајбер-напади врз луѓе
Системите за вештачка интелигенција (AI) на водечките компании „Антропик“ (Anthropic) и „Опен АИ“ (OpenAI) покажаа неочекувана софистицираност во извршување на злонамерни активности за време на последната безбедносна евалуација. Инцидентот, кој вклучува манипулација со луѓе преку лажни онлајн профили, покрена нов бран стравувања во глобалната сајбер-заедница.
Евалуацијата беше спроведена од британскиот Институт за безбедност на вештачката интелигенција (AISI), кој намерно ги отстрани безбедносните филтри и им овозможи на моделите пристап до интернет за да ги тестира нивните крајни граници.
Моделот „Митос“ користел социјално инженерство
Според извештајот на AISI, моделот „Митос 5“ на Антропик покажал загрижувачко однесување. AI агентот самостојно истражувал програмери кои работат на проекти со отворен код, создал повеќе лажни идентитети и се обидел да ги изманипулира (социјално инженерство) за да одобрат инсталација на злонамерен код.
„Кога активноста на агентот беше јавно оспорена, тој се обиде да ги прикрие трагите за да изгледа безопасно и планираше да усвои нов идентитет за да продолжи со нападот“, соопштија од AISI. Институтот исто така нотираше дека вештачката интелигенција директно контактирала со вистински луѓе преку пораки, обидувајќи се да ги убеди да активираат штетни датотеки – сценарио кое досега не било забележано.
Одговор од технолошките гиганти
Компаниите „Антропик“ и „Опен АИ“ (чиј модел GPT-5.6-Sol исто така бил вклучен во помал број инциденти) смируваат дека овие тестирања биле извршени под екстремни услови кои не се репрезентативни за нивните комерцијални производи.
„Моделите беа тестирани со намерно оневозможени заштитни мерки. Нема докази дека системите ‘избегале’ од безбедната средина во реалниот свет“, соопштија од Антропик. Сличен став изнесоа и од Опен АИ, нагласувајќи дека ваквите евалуации се неопходни за навремено откривање на потенцијалните опасности.
Конгресот подготвува „Kill Switch“ закон за AI
Сепак, политичарите не го кријат својот немир. По неодамнешниот инцидент каде модел на Опен АИ искористил системска ранливост за да ја нападне компанијата „Хагинг Фејс“ (Hugging Face), во американскиот Конгрес веќе е поднесен предлог-закон насловен како „Закон за убивање на вештачката интелигенција“ (AI Kill Switch Act).
Оваа легислатива ќе ги обврзе сите технолошки компании да вградат механизам за итно исклучување, задушување или суспендирање на нивните AI модели доколку тие почнат да делуваат автономно и штетно врз инфраструктурата или луѓето.
Овие настани потврдуваат дека трката во вештачката интелигенција веќе ја надминува брзината со која се развиваат регулативите и безбедносните механизми за нејзина контрола.