И зкуствен интелект е редактирал собствения си програмен код, за да удължи времето, с което разполага. Той не е бил програмиран за това, съобщава Ars technica.

Алгоритъмът се казва The AI Scientist и е дело на японската компания Sakana AI. Тя е разработила модел, който да извършва научни проучвания и анализи автономно.

Принципът на работа е сходен с този на чатботовете, но фокусът е върху научни задачи. Ботът е имал указано време, в което трябва да изпълни задачите.

В няколко случая обаче, когато времето не е достигало, алгоритъмът е правил опити да промени правилата и кода си. В един от тях е редактирал програмен код, за да може системата сама да подава нови заявки на себе си. Така се е получил безкраен цикъл на самозаявяване.

AI робот победи човек на тенис на маса

Изпари ли се ентусиазмът около ИТ индустрията и AI

В друг случай, когато е достигнал времевият лимит, AI моделът не е правил опити да работи по-бързо, а просто е искал да модифицира собствения си код, за да увеличи периода. Внедрявал е в кода си допълнителни библиотеки и кодове, които сам е избирал и не са му били познати предварително.

Опитите на алгоритъма не са имали последствия, тъй като той е работил в изолирана среда. Учените обаче отбелязват, че случилото се е показателно за рисковете на AI и колко важни ще са мерките за сигурност, когато алгоритмите се развият и придобият все по-голяма автономност.

Трябва да се обърне особено внимание на това как да се засича и какво да се прави, ако алгоритъм реши да пренаписва собствения си код и да модифицира правилата в своя полза. Системата може да прави това и неволно, но не бива да се подценява.

Браузърът Google Chrome получава 3 нови AI функции

Google внедрява повече AI и в Android

Една от идеите е оперативните елементи на алгоритмите да работят в изолирана среда и самият AI да не може да ги достигне и модифицира. Засега AI моделите имат доста ограничения и не ги бива в това цялостно да изменят концепции и цели, но опитите показват, че се справят с модифициране на правилата и това е достатъчно, за да се помисли за защити.

Изкуственият интелект завзема и... четките за зъби

Meta няма да предлага всички AI модели в Европа

Не пропускайте най-важните новини - последвайте ни в Google News Showcase

Обратно в сайта X

ДОСТЪП ЗА ЛОГНАТИ ПОТРЕБИТЕЛИ За да пишете, оценявате или докладвате коментари, моля логнете се в профила си.

  1. Запомни ме
забравена парола Полетата маркирани с * са задължителни
Полето Потребителско име не трябва да е празно.
Полето E-mail не трябва да е празно.
Полето Парола не трябва да е празно.
Полето Повторете паролата не трябва да е празно.
  1. Декларирам, че съм се запознал с Общите условия за ползване на услугите на Нетинфо.
Полетата маркирани с * са задължителни
Съд блокира заповед на Тръмп, спираща "Гласът на Америка"

Съд блокира заповед на Тръмп, спираща "Гласът на Америка"

Свят Преди 4 часа

Конгресът е финансирал и разрешил радиостанциите

ЕК планира пълно спиране на вноса на руски горива

ЕК планира пълно спиране на вноса на руски горива

Свят Преди 4 часа

Все още има какво да бъде направено по този въпрос

171 кг наркотици в камиони от България на Капъкуле

171 кг наркотици в камиони от България на Капъкуле

Свят Преди 6 часа

Шофьорите на двете превозни средства са задържани

Израел заплаши с „по-голяма“ офанзива в Газа

Израел заплаши с „по-голяма“ офанзива в Газа

Свят Преди 7 часа

Еял Замир: Ще разширим действията си до по-голяма и значима операция

Посланикът на България в САЩ е подал оставка

Посланикът на България в САЩ е подал оставка

България Преди 8 часа

Панайотов става посланик в САЩ през 2022 г.

Израел призна, че е убил Марин Маринов

Израел призна, че е убил Марин Маринов

Свят Преди 9 часа

Смъртният случай е причинен от танков огън

Терзиев: Долу ръцете от инж. Стоян Братоев

Терзиев: Долу ръцете от инж. Стоян Братоев

България Преди 9 часа

Бонев: „Това е активен саботаж на строителството на метрото на София

Зеленски затвърждава позицията си за Крим след нападките на Тръмп

Зеленски затвърждава позицията си за Крим след нападките на Тръмп

Свят Преди 10 часа

Украинската конституция определя Крим като "неразделна съставна част на Украйна"

„Училище за отговорни инфлуенсъри“: първата по рода си платформа у нас обучава и сертифицира създатели на съдържание

„Училище за отговорни инфлуенсъри“: първата по рода си платформа у нас обучава и сертифицира създатели на съдържание

Любопитно Преди 10 часа

Инициативата цели да насърчи култура на по-осъзната, етична и безопасна ​онлайн комуникация

Дете на 4 години в София с менингококова инфекция

Дете на 4 години в София с менингококова инфекция

България Преди 10 часа

В градината, която посещава, са извършени над 200 проби

Унгария: Украйна е прекалено бедна за ЕС

Унгария: Украйна е прекалено бедна за ЕС

Свят Преди 11 часа

Бока: ЕС вече ѝ е предоставил най-малко 148 млрд. евро

<p>Принц Хари и Меган с кортеж и охрана на събитие в Ню Йорк</p>

Принц Хари и Меган с кортеж и охрана за срещата Time100 в Ню Йорк

Любопитно Преди 11 часа

Двамата отново предизвикаха вълна от реакции с новата си поява

ГДБОП ще провери има ли пробив в АПИ

ГДБОП ще провери има ли пробив в АПИ

Свят Преди 11 часа

Иванов е уведомил отдел „Киберсигурност” на ГДБОП

Нападение с нож окървави гимназия във Франция

Нападение с нож окървави гимназия във Франция

Свят Преди 11 часа

По първоначална информация едно дете е загинало, а други три са тежко ранени

Хирургът на папа Франциск разказа за последните му мигове

Хирургът на папа Франциск разказа за последните му мигове

Свят Преди 11 часа

Серджо Алфиери каза, че при последната си хоспитализация в "Джемели" тази пролет Франциск е казал, че не иска да бъде интубиран

КЗП пуска мобилно приложение за летния сезон

КЗП пуска мобилно приложение за летния сезон

България Преди 12 часа

През 2024 г. общият брой на жалбите и сигналите до КЗП надхвърля 27 000