И зкуствен интелект е редактирал собствения си програмен код, за да удължи времето, с което разполага. Той не е бил програмиран за това, съобщава Ars technica.

Алгоритъмът се казва The AI Scientist и е дело на японската компания Sakana AI. Тя е разработила модел, който да извършва научни проучвания и анализи автономно.

Принципът на работа е сходен с този на чатботовете, но фокусът е върху научни задачи. Ботът е имал указано време, в което трябва да изпълни задачите.

В няколко случая обаче, когато времето не е достигало, алгоритъмът е правил опити да промени правилата и кода си. В един от тях е редактирал програмен код, за да може системата сама да подава нови заявки на себе си. Така се е получил безкраен цикъл на самозаявяване.

AI робот победи човек на тенис на маса

Изпари ли се ентусиазмът около ИТ индустрията и AI

В друг случай, когато е достигнал времевият лимит, AI моделът не е правил опити да работи по-бързо, а просто е искал да модифицира собствения си код, за да увеличи периода. Внедрявал е в кода си допълнителни библиотеки и кодове, които сам е избирал и не са му били познати предварително.

Опитите на алгоритъма не са имали последствия, тъй като той е работил в изолирана среда. Учените обаче отбелязват, че случилото се е показателно за рисковете на AI и колко важни ще са мерките за сигурност, когато алгоритмите се развият и придобият все по-голяма автономност.

Трябва да се обърне особено внимание на това как да се засича и какво да се прави, ако алгоритъм реши да пренаписва собствения си код и да модифицира правилата в своя полза. Системата може да прави това и неволно, но не бива да се подценява.

Браузърът Google Chrome получава 3 нови AI функции

Google внедрява повече AI и в Android

Една от идеите е оперативните елементи на алгоритмите да работят в изолирана среда и самият AI да не може да ги достигне и модифицира. Засега AI моделите имат доста ограничения и не ги бива в това цялостно да изменят концепции и цели, но опитите показват, че се справят с модифициране на правилата и това е достатъчно, за да се помисли за защити.

Изкуственият интелект завзема и... четките за зъби

Meta няма да предлага всички AI модели в Европа

Не пропускайте най-важните новини - последвайте ни в Google News Showcase

- Защо си в толкова лошо настроение? - Ами точно влизах в морето на Малдивите и... - И какво? - И ми звънна алармата за…
Прочети целия
Обратно в сайта X

ДОСТЪП ЗА ЛОГНАТИ ПОТРЕБИТЕЛИ За да пишете, оценявате или докладвате коментари, моля логнете се в профила си.

  1. Запомни ме
забравена парола Полетата маркирани с * са задължителни
Полето Потребителско име не трябва да е празно.
Полето E-mail не трябва да е празно.
Полето Парола не трябва да е празно.
Полето Повторете паролата не трябва да е празно.
  1. Декларирам, че съм се запознал с Общите условия за ползване на услугите на Нетинфо.
Полетата маркирани с * са задължителни
Цената на тол таксите се вдига от утре, а на винетките - от май

Цената на тол таксите се вдига от утре, а на винетките - от май

България Преди 28 минути

Уикенд винетката ще бъде 10 лева, седмичната – 15 лева

Защо Черно море е толкова важно за Русия и Украйна

Защо Черно море е толкова важно за Русия и Украйна

Свят Преди 45 минути

През тази седмица САЩ проведоха разговори първо с Русия, а после и с Украйна в опит да прекрати сраженията в Черно море

Весела Лечева излезе с позиция за казуса с БОК

Весела Лечева излезе с позиция за казуса с БОК

България Преди 1 час

Адвокатите на Лечева: Новоизбраният председателят може да действа като такъв

Бившата асистентка на Дейвид Бекъм разкри нови подробности за аферата с футболиста

Бившата асистентка на Дейвид Бекъм разкри нови подробности за аферата с футболиста

Любопитно Преди 1 час

Информацията за предполагаемата афера на Лоос с Бекъм излезе наяве за първи път през 2004 година

Над 4000 капсули с райски газ и различни наркотични вещества иззеха в София

Над 4000 капсули с райски газ и различни наркотични вещества иззеха в София

България Преди 1 час

Специализираната полицейска операция е била проведена на ул. „Жак Натан“.

Снимката е илюстративна

Готвят въвеждане на „червена зона“ за паркиране в София

България Преди 1 час

Това значи по-високи цени, удължено работно време на „Паркинги и гаражи“ и запазване на част от местата за живущи в района

Прокуратурата: Няма данни смъртта на майката на прокурор Георгиева да е насилствена

Прокуратурата: Няма данни смъртта на майката на прокурор Георгиева да е насилствена

България Преди 1 час

Най-голяма вероятност има пожарът да е възникнал вследствие на небрежност

Новата Европа – търсете новия брой на сп. „Мениджър“

Новата Европа – търсете новия брой на сп. „Мениджър“

Любопитно Преди 1 час

Европа се намира в преломен исторически момент, който ще оформи облика ѝ за десетилетия напред

Челси Хендлър разкрива, че е споделила наркотици с "всички" на афтърпартито на "Оскарите"

Челси Хендлър разкрива, че е споделила наркотици с "всички" на афтърпартито на "Оскарите"

Любопитно Преди 1 час

„Споделям ги с всички. Обичам да давам наркотици на хората“

Огромен пожар изпепели много автомобили "Тесла" в Рим

Огромен пожар изпепели много автомобили "Тесла" в Рим

Свят Преди 1 час

Не изключват възможността за палеж

Мнозинството от турците искат предсрочни избори

Мнозинството от турците искат предсрочни избори

Свят Преди 2 часа

Само 33,2 на сто от хората са заявили, че не искат предсрочни избори

Нетаняху избра нов началник на "Шин Бет"

Нетаняху избра нов началник на "Шин Бет"

Свят Преди 2 часа

Решението на Нетаняху да отстрани Бар по-рано този месец предизвика масови протести

Били Айлиш смени мениджърите си

Били Айлиш смени мениджърите си

Любопитно Преди 2 часа

Досегашни мениджъри на Айлиш и брат ѝ бяха Дани Рукасин и Брандън Гудман

<p>Бен Афлек &quot;приключи&quot; да говори за Дженифър Лопес</p>

Бен Афлек "приключи" да говори за бившата си съпруга Дженифър Лопес

Любопитно Преди 2 часа

“Той не се гордее, че бракът им не се е получил"

Лекари предлагат ваксината срещу варицела да стане задължителна

Лекари предлагат ваксината срещу варицела да стане задължителна

България Преди 2 часа

Към момента тя е препоръчителна и се прилага при бебета с навършени 12 месеца

Стрес, главоболие и умора: Как да преодолеем смяната на часа

Стрес, главоболие и умора: Как да преодолеем смяната на часа

Любопитно Преди 2 часа

Смяната на часа може да бъде предизвикателство, но с няколко прости стъпки можем да намалим негативните ефекти