Google работи по бутон, който може да предотврати бунт на изкуствен интелект
Източник: Thinkstock/Guliver photos

П рез последните две години светът видя множество победи за изкуствения интелект и мнозина съзряха опасност. Сега Google работи за това да предотврати една такава победа в случай, че нейното постигане ни постави в ситуация, по-подходяща за компютърна игра или анимационен филм.

Проектът, от своя страна, не е никак шеговит. За опасност от такъв развой на събитията ни предупредиха не само преки участници в разработката на изкуствен интелект като Стивън Хоукинг и Илон Мъск, но и много професори, учени и дори автори на научна фантастика.

Със задачата се е заел британският екип на компанията, който, паралелно с работата си по програмата за изкуствен интелект, ще разработва и така наречения ”safe incorruptibility“- способ, който ще забрани на изкуствения интелект да научи как да прекрати човешкия контрол над себе си.

Освен това, safe incorruptibility може да се използва, за да предотврати ситуация, в която изкуственият интелект може да навреди или да се обучи за нещо, за което са нужни алтернативни методи на обучение.

Не е изненада, че идеята за война между хората и  изкуствения интелект съществува от времето, когато компютърната мощ се е изчерпвала с редица прости пресмятания. Още през 40-те години на миналия век, световноизвестният писател Айзък Азимов поставя три правила, които адресират точно този случаи, а те звучат заплашително актуални:

- Един робот не може да вреди на човек или, чрез бездействие, да позволява човек да си навреди.

- Един робот винаги трябва да се подчинява на човешки заповеди, освен когато това е в конфликт с първото правило.

- Един робот трябва да опазва своето съществуване стига това да не противоречи на първото и второто правило.

Дали ще има нужда от тях и тяхното спазване предстои още да видим, но чрез усилието си Google ще предотврати всички начини на неподчинение, които можем да очакваме.

Обратно в сайта X

ДОСТЪП ЗА ЛОГНАТИ ПОТРЕБИТЕЛИ За да пишете, оценявате или докладвате коментари, моля логнете се в профила си.

  1. Запомни ме
забравена парола Полетата маркирани с * са задължителни
Полето Потребителско име не трябва да е празно.
Полето E-mail не трябва да е празно.
Полето Парола не трябва да е празно.
Полето Повторете паролата не трябва да е празно.
  1. Декларирам, че съм се запознал с Общите условия за ползване на услугите на Нетинфо.
Полетата маркирани с * са задължителни
Частични избори се провеждат на няколко места в страната

Частични избори се провеждат на няколко места в страната

България Преди 20 минути

Жителите на столичния район „Оборище“ и село Доброславци избират кмет

Кола падна в канавка на Арбанашкия път, шофьорката - с над 2 промила алкохол

Кола падна в канавка на Арбанашкия път, шофьорката - с над 2 промила алкохол

България Преди 27 минути

Инцидентът е станал около 23.00 ч. в събота

МВнР с предупреждение към пътуващите в Италия

МВнР с предупреждение към пътуващите в Италия

Свят Преди 1 час

В страната ще се проведе национална транспортна стачка

Какво се случва, ако поставите лаптоп на корема си?

Какво се случва, ако поставите лаптоп на корема си?

Любопитно Преди 1 час

Най-добре е да избягвате продължителния контакт на лаптопа с тялото си

Ядреното оръжие на САЩ и Европа: Най-важните въпроси

Ядреното оръжие на САЩ и Европа: Най-важните въпроси

Свят Преди 1 час

През август ще се навършват 80 години, откакто САЩ хвърлиха атомните бомби над Хирошима и Нагасаки в края на Втората световна война

Президентът на САЩ Донълд Тръмп

Петицията за импийчмънт на Доналд Тръмп събра 250 000 подписа

Свят Преди 1 час

Групата цитира множество други причини, поради които Конгресът евентуално би могъл да наложи импийчмънт на републиканеца

След 24 часа под руините: Възрастна жена оцеля при срутване на сграда в Италия

След 24 часа под руините: Възрастна жена оцеля при срутване на сграда в Италия

Свят Преди 1 час

Жилищната сграда е била обявена за конструктивно опасна миналата година

,

След сблъсъка в Ламанша: Руският капитан на единия кораб остава в ареста

Свят Преди 9 часа

59-годишният Владимир Мотин, е обвинен в престъпно нехайство и непредумишлено убийство

,

Черногорски депутат е задържан по време на протестите в Белград

Свят Преди 10 часа

Милойко Спаич осъди действията му

Силите на САЩ и Великобритания нанесоха удари по столицата на Йемен

Силите на САЩ и Великобритания нанесоха удари по столицата на Йемен

Свят Преди 11 часа

Тръмп обяви, че ще предприеме военни действия

Тръмп: Проведохме продуктивни разговори с Русия за прекратяване на огъня в Украйна

Тръмп: Проведохме продуктивни разговори с Русия за прекратяване на огъня в Украйна

Свят Преди 12 часа

В Киев украинският президент Володимир Зеленски обвини Путин, че се опитва да „саботира дипломацията“

Снимката е илюстративна

Летни жеги през март: На места термометрите отчетоха почти 30 градуса

България Преди 12 часа

В някои градове паднаха и температурни рекорди

Протест пред ЦИК: Граждани искат оставката на правителството

Протест пред ЦИК: Граждани искат оставката на правителството

България Преди 12 часа

Събралите се настояват за връщане на правомощията на президента да назначава служебни кабинети

Най-малко 16 души са загинали в САЩ при поредица от торнада

Най-малко 16 души са загинали в САЩ при поредица от торнада

Свят Преди 13 часа

Няколко души са били ранени, но броят им не е обявен