Google работи по бутон, който може да предотврати бунт на изкуствен интелект
Източник: Thinkstock/Guliver photos

П рез последните две години светът видя множество победи за изкуствения интелект и мнозина съзряха опасност. Сега Google работи за това да предотврати една такава победа в случай, че нейното постигане ни постави в ситуация, по-подходяща за компютърна игра или анимационен филм.

Проектът, от своя страна, не е никак шеговит. За опасност от такъв развой на събитията ни предупредиха не само преки участници в разработката на изкуствен интелект като Стивън Хоукинг и Илон Мъск, но и много професори, учени и дори автори на научна фантастика.

Със задачата се е заел британският екип на компанията, който, паралелно с работата си по програмата за изкуствен интелект, ще разработва и така наречения ”safe incorruptibility“- способ, който ще забрани на изкуствения интелект да научи как да прекрати човешкия контрол над себе си.

Освен това, safe incorruptibility може да се използва, за да предотврати ситуация, в която изкуственият интелект може да навреди или да се обучи за нещо, за което са нужни алтернативни методи на обучение.

Не е изненада, че идеята за война между хората и  изкуствения интелект съществува от времето, когато компютърната мощ се е изчерпвала с редица прости пресмятания. Още през 40-те години на миналия век, световноизвестният писател Айзък Азимов поставя три правила, които адресират точно този случаи, а те звучат заплашително актуални:

- Един робот не може да вреди на човек или, чрез бездействие, да позволява човек да си навреди.

- Един робот винаги трябва да се подчинява на човешки заповеди, освен когато това е в конфликт с първото правило.

- Един робот трябва да опазва своето съществуване стига това да не противоречи на първото и второто правило.

Дали ще има нужда от тях и тяхното спазване предстои още да видим, но чрез усилието си Google ще предотврати всички начини на неподчинение, които можем да очакваме.

Обратно в сайта X

ДОСТЪП ЗА ЛОГНАТИ ПОТРЕБИТЕЛИ За да пишете, оценявате или докладвате коментари, моля логнете се в профила си.

  1. Запомни ме
забравена парола Полетата маркирани с * са задължителни
Полето Потребителско име не трябва да е празно.
Полето E-mail не трябва да е празно.
Полето Парола не трябва да е празно.
Полето Повторете паролата не трябва да е празно.
  1. Декларирам, че съм се запознал с Общите условия за ползване на услугите на Нетинфо.
Полетата маркирани с * са задължителни
<p>Тръмп обяви кога ще разговаря с Путин</p>

Тръмп: Ще говоря с Путин във вторник

Свят Преди 1 минута

Тръмп говори пред репортери на борда на президентския самолет по време на късен полет от Флорида до Вашингтон

<p>7 звезди, които са готови на всичко за роля</p>

През болка и предизвикателства: 7 звезди, които са готови на всичко за роля

Любопитно Преди 15 минути

Да бъдеш актьор не е свързано само с талант и харизма, но и със способността да излезеш извън зоната си на комфорт

,

Полицията в Ню Йорк издирва заподозрян, който подпалил мъж на "Таймс Скуеър"

Свят Преди 8 часа

През декември 57-годишната Дебрина Кавам от Ню Джърси почина, след като беше подпалена във влак на нюйоркското метро

Израел: Изстрел от Ливан удари автомобил в Авивим

Израел: Изстрел от Ливан удари автомобил в Авивим

Свят Преди 8 часа

„Всеки огън към Израел от ливанска територия представлява грубо нарушение на договореностите между Израел и Ливан“

Даниил проведе телефонен разговор с архиепископа на Северна Македония

Даниил проведе телефонен разговор с архиепископа на Северна Македония

България Преди 9 часа

Патриархът увери своя събрат, че православните християни в България се молят от цялото си сърце за упокоение на душите на починалите

Нетаняху иска да уволни шефа на Шин Бет

Нетаняху иска да уволни шефа на Шин Бет

Свят Преди 9 часа

През последните седмици Нетаняху и шефът на агенция Шин Бет Ронен Бар влязоха в публичен спор относно реформите в агенцията

Медведев: Изпращането на "миротворци" на НАТО в Украйна ще бъде равносилно на война

Медведев: Изпращането на "миротворци" на НАТО в Украйна ще бъде равносилно на война

Свят Преди 10 часа

Русия многократно е заявявала, че в Украйна не трябва да има "миротворци"

Вучич: Парламентарни избори може да се проведат на 8 юни

Вучич: Парламентарни избори може да се проведат на 8 юни

Свят Преди 10 часа

Според него, ако не бъде съставено ново правителство в законовия срок, ще се свикат избори, най-вероятно на 8 юни

Агнеса Руси Поповска, посланик на Република Северна Македония

Посланичката на Скопие у нас: Искам да изкажа благодарност на България за помощта

Свят Преди 10 часа

Десетки отдадоха почит в памет на жертвите на пожара пред посолството на Северна Македония в София

Американският самолетоносач "Хари Труман"

Йеменските хуси твърдят, че са атакували американски самолетоносач в Червено море

Свят Преди 11 часа

Представител на хусите съобщи, че САЩ са нанесли 47 удари по цели в 7 области в Йемен

Президентът на Венецуела Николас Мадуро

Венецуела упрекна "незаконните" депортации от САЩ

Свят Преди 11 часа

Кабинетът в Каракас е "дълбоко възмутен от заплахата за отвличане на 14-годишни деца"

Белият дом: Въздушните удари по йеменските хути може да продължат седмици

Белият дом: Въздушните удари по йеменските хути може да продължат седмици

Свят Преди 12 часа

Говорител на Пентагона заяви, че от 2023 г. насам хутите са атакували 174 пъти американски военни кораби

.

Осем ранени от Северна Македония пристигнаха в болници в София и Варна

България Преди 12 часа

Още петима души в тежко състояние се очаква да бъдат транспортирани по-късно днес

Протестираща в Белград: Ние не искаме смяна на властта, а смяна на мисълта

Протестираща в Белград: Ние не искаме смяна на властта, а смяна на мисълта

Свят Преди 12 часа

„Шумът, който беше пуснат по време на мълчанието, беше ужасен”, сподели Даниела Бузурович

Ердоган казал на Тръмп, че подкрепя усилията му в Украйна

Ердоган казал на Тръмп, че подкрепя усилията му в Украйна

Свят Преди 13 часа

Миналата седмица САЩ предложиха прекратяване на огъня във войната в Украйна, като Киев го прие, а Москва повдигна „сериозни въпроси“

Неизвестен запали жена в трамвай в Германия и избяга

Неизвестен запали жена в трамвай в Германия и избяга

Свят Преди 13 часа

Не е ясно какъв е бил мотивът за нападението