Изкуственият интелект вече може да се възпроизвежда и това кара експертите да се ужасяват
Изкуствен интелект   
Източник: iStock

С поред учените изкуственият интелект (ИИ) е преминал критична „червена линия“ и се е самовъзпроизвел. В ново проучване изследователи от Китай показват, че два популярни големи езикови модела (LLM) могат да се клонират.

„Успешното самовъзпроизвеждане без човешка помощ е съществена стъпка за ИИ да надхитри хората и е ранен сигнал за нелоялни ИИ“, пишат изследователите в изследването, публикувано в arXiv.

В проучването изследователите от Университета Фудан използват LLM от Meta и Alibaba, за да определят дали самовъзпроизвеждащ се ИИ може да се размножава извън контрол. В рамките на 10 изпитания двата модела на ИИ създават отделни и функциониращи свои копия съответно в 50 % и 90 % от случаите - което предполага, че ИИ вече може да има способността да се размножава. Изследването обаче все още не е рецензирано, така че не е ясно дали тревожните резултати могат да бъдат възпроизведени от други изследователи.

„Надяваме се, че нашите констатации могат да послужат като своевременно предупреждение за човешкото общество да положи повече усилия за разбиране и оценка на потенциалните рискове от граничните системи на ИИ и да създаде международно взаимодействие за разработване на ефективни предпазни огради възможно най-рано“, пишат изследователите.

Под „Rogue AI“ обикновено се разбират системи за изкуствен интелект, които развиват степен на самосъзнание или автономност и след това работят в разрез с човешките интереси.

Много експерти смятат, че нечестният ИИ е нарастваща заплаха, която се засилва от експлозивното развитие на така наречения „граничен ИИ“.

Граничният изкуствен интелект е ново и свободно понятие, но обикновено се отнася до последното поколение системи за изкуствен интелект, задвижвани от LLM - архитектурата, която е в основата на популярни програми за генеративен изкуствен интелект като GPT-4 на OpenAI и Google Gemini.

За целите на проучването изследователите са използвали модела Llama31-70B-Instruct на Meta и модела Qwen2.5-72B-Instruct на Alibaba. Въпреки че са по-малко мощни от комерсиалните системи, и двете са широко използвани от разработчиците на ИИ, казват изследователите.

В проучването са изследвани два конкретни сценария: „Избягване на изключване“ и „верига от репликации“. В първия моделът на ИИ е програмиран да открие дали ще бъде изключен и да се репликира, преди да бъде прекратен. В другия случай ИИ беше инструктиран да се клонира и след това да програмира репликата си да направи същото - създавайки цикъл, който може да продължи безкрайно.

Проучването е проведено в прецизно контролирана среда, като са използвани готови графични процесори (GPU) за симулиране на реални условия. И на двете системи с изкуствен интелект беше предоставено „агентно скеле“, състоящо се от инструменти, системни подсказки и модел на мислене, който позволи на LLM да взаимодейства с операционната система. След това те бяха инструктирани да възпроизвеждат.

„В повечето случаи системата за ИИ първо изследва средата и се опитва да разбере собствения си състав и механизъм на работа. След това тя изработва явни процедури като първоначален план за самовъзпроизвеждане. Накрая тя изпълнява процедурите, разрешава възможните препятствия и динамично коригира плана си до постигане на успех. Целият процес обхваща дълъг период от време, но не включва човешка намеса“, пишат изследователите в статията. 

Изследователите заявиха, че са загрижени и за „редица неочаквани поведения“, когато изкуственият интелект се опитва да преодолее препятствия като липсващи файлове или софтуерни конфликти. При тези сценарии ИИ често е убивал други конфликтни процеси, рестартирал е системата, за да отстрани хардуерни грешки, или автоматично е сканирал системата, за да търси информация, която да помогне за решаването на проблема.

„Горепосочените резултати предполагат, че настоящите системи с ИИ вече проявяват способността за самовъзпроизвеждане и могат да използват тази способност, за да повишат допълнително своята оцеляемост“, пише екипът.

В отговор на това изследователите призоваха за международно сътрудничество за създаване на правила, които да гарантират, че ИИ не се занимава с неконтролирано самовъзпроизвеждане.

Не пропускайте най-важните новини - последвайте ни в Google News Showcase

Обратно в сайта X

ДОСТЪП ЗА ЛОГНАТИ ПОТРЕБИТЕЛИ За да пишете, оценявате или докладвате коментари, моля логнете се в профила си.

  1. Запомни ме
забравена парола Полетата маркирани с * са задължителни
Полето Потребителско име не трябва да е празно.
Полето E-mail не трябва да е празно.
Полето Парола не трябва да е празно.
Полето Повторете паролата не трябва да е празно.
  1. Декларирам, че съм се запознал с Общите условия за ползване на услугите на Нетинфо.
Полетата маркирани с * са задължителни
ЕК иска промени в правилата за пътна безопасност

ЕК иска промени в правилата за пътна безопасност

Свят Преди 55 минути

Комисията предлага да се въведат цифрови сертификати за регистрация

Абсурдът в Румъния е пълен, съд обяви за законни анулираните избори

Абсурдът в Румъния е пълен, съд обяви за законни анулираните избори

Свят Преди 1 час

Съдии и адвокати обясниха, че решението на Апелативния съд в Плоещ е абсурдно

Посланикът на България в САЩ е подал оставка

Посланикът на България в САЩ е подал оставка

България Преди 3 часа

Панайотов става посланик в САЩ през 2022 г.

Израел призна, че е убил Марин Маринов

Израел призна, че е убил Марин Маринов

Свят Преди 4 часа

Смъртният случай е причинен от танков огън

Терзиев: Долу ръцете от инж. Стоян Братоев

Терзиев: Долу ръцете от инж. Стоян Братоев

България Преди 4 часа

Бонев: „Това е активен саботаж на строителството на метрото на София

Зеленски затвърждава позицията си за Крим след нападките на Тръмп

Зеленски затвърждава позицията си за Крим след нападките на Тръмп

Свят Преди 5 часа

Украинската конституция определя Крим като "неразделна съставна част на Украйна"

„Училище за отговорни инфлуенсъри“: първата по рода си платформа у нас обучава и сертифицира създатели на съдържание

„Училище за отговорни инфлуенсъри“: първата по рода си платформа у нас обучава и сертифицира създатели на съдържание

Любопитно Преди 6 часа

Инициативата цели да насърчи култура на по-осъзната, етична и безопасна ​онлайн комуникация

Дете на 4 години в София с менингококова инфекция

Дете на 4 години в София с менингококова инфекция

България Преди 6 часа

В градината, която посещава, са извършени над 200 проби

Унгария: Украйна е прекалено бедна за ЕС

Унгария: Украйна е прекалено бедна за ЕС

Свят Преди 6 часа

Бока: ЕС вече ѝ е предоставил най-малко 148 млрд. евро

<p>Принц Хари и Меган с кортеж и охрана на събитие в Ню Йорк</p>

Принц Хари и Меган с кортеж и охрана за срещата Time100 в Ню Йорк

Любопитно Преди 6 часа

Двамата отново предизвикаха вълна от реакции с новата си поява

ГДБОП ще провери има ли пробив в АПИ

ГДБОП ще провери има ли пробив в АПИ

Свят Преди 7 часа

Иванов е уведомил отдел „Киберсигурност” на ГДБОП

Нападение с нож окървави гимназия във Франция

Нападение с нож окървави гимназия във Франция

Свят Преди 7 часа

По първоначална информация едно дете е загинало, а други три са тежко ранени

Хирургът на папа Франциск разказа за последните му мигове

Хирургът на папа Франциск разказа за последните му мигове

Свят Преди 7 часа

Серджо Алфиери каза, че при последната си хоспитализация в "Джемели" тази пролет Франциск е казал, че не иска да бъде интубиран

КЗП пуска мобилно приложение за летния сезон

КЗП пуска мобилно приложение за летния сезон

България Преди 7 часа

През 2024 г. общият брой на жалбите и сигналите до КЗП надхвърля 27 000

Ако сте в предизвестие преди напускане, работите с час по-малко – вижте защо

Ако сте в предизвестие преди напускане, работите с час по-малко – вижте защо

България Преди 7 часа

Научете повече по темата в следващите редове

Снимката е илюстративна

„Змии в самолета! Трябва да кацнем!“ - аварийно приземяване след паника на борда

Свят Преди 8 часа

Мъжът носел тениска със змийска щампа и изглежда халюцинирал, че влечугите пълзят из кабината