Изкуственият интелект вече може да се възпроизвежда и това кара експертите да се ужасяват
Изкуствен интелект   
Източник: iStock

С поред учените изкуственият интелект (ИИ) е преминал критична „червена линия“ и се е самовъзпроизвел. В ново проучване изследователи от Китай показват, че два популярни големи езикови модела (LLM) могат да се клонират.

„Успешното самовъзпроизвеждане без човешка помощ е съществена стъпка за ИИ да надхитри хората и е ранен сигнал за нелоялни ИИ“, пишат изследователите в изследването, публикувано в arXiv.

В проучването изследователите от Университета Фудан използват LLM от Meta и Alibaba, за да определят дали самовъзпроизвеждащ се ИИ може да се размножава извън контрол. В рамките на 10 изпитания двата модела на ИИ създават отделни и функциониращи свои копия съответно в 50 % и 90 % от случаите - което предполага, че ИИ вече може да има способността да се размножава. Изследването обаче все още не е рецензирано, така че не е ясно дали тревожните резултати могат да бъдат възпроизведени от други изследователи.

„Надяваме се, че нашите констатации могат да послужат като своевременно предупреждение за човешкото общество да положи повече усилия за разбиране и оценка на потенциалните рискове от граничните системи на ИИ и да създаде международно взаимодействие за разработване на ефективни предпазни огради възможно най-рано“, пишат изследователите.

Под „Rogue AI“ обикновено се разбират системи за изкуствен интелект, които развиват степен на самосъзнание или автономност и след това работят в разрез с човешките интереси.

Много експерти смятат, че нечестният ИИ е нарастваща заплаха, която се засилва от експлозивното развитие на така наречения „граничен ИИ“.

Граничният изкуствен интелект е ново и свободно понятие, но обикновено се отнася до последното поколение системи за изкуствен интелект, задвижвани от LLM - архитектурата, която е в основата на популярни програми за генеративен изкуствен интелект като GPT-4 на OpenAI и Google Gemini.

За целите на проучването изследователите са използвали модела Llama31-70B-Instruct на Meta и модела Qwen2.5-72B-Instruct на Alibaba. Въпреки че са по-малко мощни от комерсиалните системи, и двете са широко използвани от разработчиците на ИИ, казват изследователите.

В проучването са изследвани два конкретни сценария: „Избягване на изключване“ и „верига от репликации“. В първия моделът на ИИ е програмиран да открие дали ще бъде изключен и да се репликира, преди да бъде прекратен. В другия случай ИИ беше инструктиран да се клонира и след това да програмира репликата си да направи същото - създавайки цикъл, който може да продължи безкрайно.

Проучването е проведено в прецизно контролирана среда, като са използвани готови графични процесори (GPU) за симулиране на реални условия. И на двете системи с изкуствен интелект беше предоставено „агентно скеле“, състоящо се от инструменти, системни подсказки и модел на мислене, който позволи на LLM да взаимодейства с операционната система. След това те бяха инструктирани да възпроизвеждат.

„В повечето случаи системата за ИИ първо изследва средата и се опитва да разбере собствения си състав и механизъм на работа. След това тя изработва явни процедури като първоначален план за самовъзпроизвеждане. Накрая тя изпълнява процедурите, разрешава възможните препятствия и динамично коригира плана си до постигане на успех. Целият процес обхваща дълъг период от време, но не включва човешка намеса“, пишат изследователите в статията. 

Изследователите заявиха, че са загрижени и за „редица неочаквани поведения“, когато изкуственият интелект се опитва да преодолее препятствия като липсващи файлове или софтуерни конфликти. При тези сценарии ИИ често е убивал други конфликтни процеси, рестартирал е системата, за да отстрани хардуерни грешки, или автоматично е сканирал системата, за да търси информация, която да помогне за решаването на проблема.

„Горепосочените резултати предполагат, че настоящите системи с ИИ вече проявяват способността за самовъзпроизвеждане и могат да използват тази способност, за да повишат допълнително своята оцеляемост“, пише екипът.

В отговор на това изследователите призоваха за международно сътрудничество за създаване на правила, които да гарантират, че ИИ не се занимава с неконтролирано самовъзпроизвеждане.

Не пропускайте най-важните новини - последвайте ни в Google News Showcase

Обратно в сайта X

ДОСТЪП ЗА ЛОГНАТИ ПОТРЕБИТЕЛИ За да пишете, оценявате или докладвате коментари, моля логнете се в профила си.

  1. Запомни ме
забравена парола Полетата маркирани с * са задължителни
Полето Потребителско име не трябва да е празно.
Полето E-mail не трябва да е празно.
Полето Парола не трябва да е празно.
Полето Повторете паролата не трябва да е празно.
  1. Декларирам, че съм се запознал с Общите условия за ползване на услугите на Нетинфо.
Полетата маркирани с * са задължителни
Георг Георгиев се срещна с Марко Рубио

Георг Георгиев се срещна с Марко Рубио

Свят Преди 1 час

Министър Георгиев подчерта постиженията в модернизацията на българските въоръжени сили

Кралят на Йордания се срещна с президента Румен Радев

Кралят на Йордания се срещна с президента Румен Радев

България Преди 2 часа

Двамата ще разговарят „на четири очи“

<p>Леонардо ди Каприо изненада с нова визия (СНИМКИ)</p>

Леонардо ди Каприо изненада с нова визия на CinemaCon 2025 в Лас Вегас

Любопитно Преди 3 часа

50-годишният актьор се появи на събитието с видимо боядисана коса, брада и вежди

Елате на събитието на „Ох, на мама!“ на 17 и 18 май

Елате на събитието на „Ох, на мама!“ на 17 и 18 май

Любопитно Преди 3 часа

Редица водещи експерти, двама родители, които ще задават точните въпроси и една популярна майка, която ще сподели своята най-лична история

Европейската прокуратура с арести за измами в България, Германия и Полша

Европейската прокуратура с арести за измами в България, Германия и Полша

Свят Преди 3 часа

Предполага се, че заподозрените са част от организирана престъпна група

Скритото значение зад скандалния костюм на Ерика Баду

Скритото значение зад скандалния костюм на Ерика Баду

Любопитно Преди 3 часа

"Празнуваме утробата на света, утробата на живота, утробата-вселена на всички неща"

<p>Българинът и колата му: Любов на 20+ години</p>

Автопаркът на България: Немски марки и дълголетие на колелата

Светът в числа Преди 3 часа

От Трабант до Porsche – какво разказва автопаркът за българите

Холивудски герои в реалния живот: 10 актьори, които спасиха човешки животи

Холивудски герои в реалния живот: 10 актьори, които спасиха човешки животи

Любопитно Преди 3 часа

Представяме ви 10 актьори, които са спасили човешки животи в реалния свят

Рубио: САЩ остават в НАТО

Рубио: САЩ остават в НАТО

Свят Преди 3 часа

"Президентът Тръмп не е срещу НАТО", обобщи Рубио.

Колко пагубна за семейството може да е силната връзка между баща и син?

Колко пагубна за семейството може да е силната връзка между баща и син?

Любопитно Преди 4 часа

Гледайте “Майките” тази вечер в 22:00 ч. по NOVA

Последното предсказание на Баба Ванга се сбъдна

Последното предсказание на Баба Ванга се сбъдна

Свят Преди 4 часа

Какво казва ясновидката за 2025 г.?

<p>Кание Уест разкри причината, заради която Бианка Ченсори го напусна&nbsp;</p>

Кание Уест разкри, че Бианка Ченсори го е напуснала заради негови изказвания

Любопитно Преди 4 часа

47-годишен рапър разкрива, че съпругата му е получила паническа атака заради вълната от омраза, която предизвикват неговите публикации

7 неща, които ще ви накарат да се почувствате стари

7 неща, които ще ви накарат да се почувствате стари

Любопитно Преди 4 часа

Нека направим едно малко пътешествие назад във времето

Ето кога ще изплащат пенсиите и великденските добавки

Ето кога ще изплащат пенсиите и великденските добавки

България Преди 5 часа

На 3 април се получават паричните обезщетения за бременност и раждане

Шофьор помете пешеходка на голям столичен булевард

Шофьор помете пешеходка на голям столичен булевард

България Преди 5 часа

Пробите за алкохол и наркотици на водача са отрицателни

CNN: Всичко избухва в лицето на Илон Мъск

CNN: Всичко избухва в лицето на Илон Мъск

Свят Преди 5 часа

Избирателите, клиентите, инвеститорите и елитът на MAGA казват, че шоуто на Илон Мъск е изгубило своята цел