12

И деята за изкуствения интелект, който ще завладее човечеството от десетилетия витае наоколо и програми като ChatGPT само подновиха тези опасения.

И така, колко вероятно е да контролираме компютърен суперинтелект на високо ниво? Учените опитаха да изчислят това още през 2021 г. Отговорът? Нямаме почти никакъв шанс.

Уловката тук е, че контролирането на ИИ, който все още е далеч от човешкото разбиране, би изисквало да се създаде такава симулация, за да можем да я анализираме. Но ако не сме в състояние да го разберем, не е възможно да създадем симулацията.

Заповеди от типа „не причинявай вреда на хората“ не могат да бъдат зададени, ако не можем да предположим сценариите, които ИИ би могъл да измисли, казват учените. Ако компютърната система работи на ниво над способностите на програмистите ни, ние вече не сме в състояние да задаваме ограничения.

Свръхинтелигентността поставя фундаментално различни проблеми от тези, които обикновено се изучават при „етика на роботите“, пишат изследователите през 2021 г.

Това е така, защото суперинтелектът е многостранен и потенциално способен да мобилизира разнообразие от ресурси, за да постигне цели, които са потенциално неразбираеми за хората, да не говорим за контролируеми.

Част от разсъжденията на екипа идват от проблема със „спирането“, поставен от Алън Тюринг през 1936 г. Проблемът се съсредоточава върху това дали една компютърна програма ще може да достига до заключения и отговори (и ще спре), или просто ще зацикли завинаги, опитвайки се да намери такъв.

Както Тюринг доказал, докато за някои програми е възможно да знаем дали биха спрели, но логически погледнато не е възможно да намерим начин, който да ни позволява да разбираме това за всяка програма, която потенциално в бъдеще може да бъде създадена.

Това ни връща към ИИ, който би могъл да съдържа наведнъж в паметта си всяка възможна компютърна програма.

Всяка програма, написана, за да спре изкуствения интелект да наранява хората и да унищожава света, може да стигне до заключението, че е тръгнала по този опасен път да и да спре или не – математически обаче е невъзможно да бъдем абсолютно сигурни и за двата случая.

На практика това прави алгоритъма за ограничаване неизползваем“, каза компютърният учен Ияд Рахван от Института Макс-Планк за човешко развитие в Германия.

Алтернативата да бъде преподавана етика на ИИ и му бъде наредено да не унищожава света е нещо, което не сме сигурни, че който и да бил алгоритъм ще може със сигурност да следва, казват изследователите. Друг вариант е да се ограничат възможностите на ИИ. Може да му бъде спрян достъпа до части от интернет или до определени мрежи, например.

Проучване от 2021 г. обаче отхвърля и тази идея, като предполага, че това би ограничило функциите на изкуствения интелект – аргументът е, че ако няма да го използваме за решаване на проблеми извън обсега на хората, тогава защо изобщо да го създаваме?

Ако изберем да вървим напред с изкуствения интелект, съществува опасността да не разберем кога нещата са излезли извън нашия контрол. Заради това трябва да започнем да задаваме някои сериозни въпроси относно посоките, в които вървим.

По-рано тази година технологични гиганти, включително Илон Мъск и съоснователят на Apple Стив Возняк, подписаха отворено писмо, в което поискаха от човечеството да спре работата по изкуствения интелект поне за 6 месеца, за да може да се проучи как да продължи развитието му по безопасен начин.

ИИ системите трябва да бъдат разработени само след като сме уверени, че техните ефекти ще бъдат положителни и рисковете, които могат да възникнат ще бъдат управляеми“, се казва в него.

Коментари 12
Кирилица:
Фонетична
Имате 2000 позволени символа

* Моля, коментирайте конкретната статия и използвайте кирилица! Не се толерират мнения с обидно или нецензурно съдържание, на верска или етническа основа, както и написани само с главни букви!

12 коментара
 
Обратно в сайта X

ДОСТЪП ЗА ЛОГНАТИ ПОТРЕБИТЕЛИ За да пишете, оценявате или докладвате коментари, моля логнете се в профила си.

  1. Запомни ме
забравена парола Полетата маркирани с * са задължителни
Полето Потребителско име не трябва да е празно.
Полето E-mail не трябва да е празно.
Полето Парола не трябва да е празно.
Полето Повторете паролата не трябва да е празно.
  1. Декларирам, че съм се запознал с Общите условия за ползване на услугите на Нетинфо.
Полетата маркирани с * са задължителни
Зеленски: Русия разположи 11 000 севернокорейски войници

Зеленски: Русия разположи 11 000 севернокорейски войници

Свят Преди 6 часа

Русия се опитва да изгони украинските сили от тази граничеща с Украйна територия

Три жертви след челен удар на пътя София - Варна

Три жертви след челен удар на пътя София - Варна

България Преди 7 часа

Движението се осъществява в едната лента в посока Варна

Отварят за движение северното платно на бул. „Сливница“ при “Опълченска“

Отварят за движение северното платно на бул. „Сливница“ при “Опълченска“

България Преди 9 часа

Възстановява се движението по пътните платна на мостовото съоръжение

„Възраждане” подписва декларацията на ПП-ДБ срещу гаранции

„Възраждане” подписва декларацията на ПП-ДБ срещу гаранции

България Преди 9 часа

От партията са изпратили на ПП-ДБ проект на решение за задължаване на Министерския съвет

ДАНС и МВР докладваха за изборните нарушения

ДАНС и МВР докладваха за изборните нарушения

България Преди 9 часа

От МВР посочват, че са били предприети всички необходими мерки

„Гунди - легенда за любовта“ събори 14-годишен рекорд  само за първите си 17 дни на екран

„Гунди - легенда за любовта“ събори 14-годишен рекорд само за първите си 17 дни на екран

Любопитно Преди 11 часа

Филмът на Димитър Димитров вече официално е най-гледаният български филм в новата история на родното кино

ПП-ДБ сезира Конституционния съд за изборите

ПП-ДБ сезира Конституционния съд за изборите

България Преди 11 часа

Атанасов: Внасяме конституционно искане, така че всички секции да бъдат повторно преброени

<p>Нова хипотеза: Маската на Тутанкамон е правена за жена</p>

Маската на Тутанкамон е правена за жена

Любопитно Преди 12 часа

Според учените внезапната смърт на Тутанкамон на 18-годишна възраст е причината лицето му да е изобразено върху това на истинския собственик на маската

Снимката е илюстративна

Google разкри местоположението на военни обекти в Украйна

Свят Преди 12 часа

Москва вече е започнала „активно да разпространява“ чувствителните изображения, заяви Андрий Коваленко

Иран екзекутира евреин

Иран екзекутира евреин

Свят Преди 13 часа

Екзекуцията на ирански граждани от религиозните малцинства в страната е рядкост

<p>Как се отмъщава с порно снимки</p>

Сърбия: Как се отмъщава с порно снимки

Свят Преди 13 часа

Лични секс снимки и видеа се разпространяват в социалните мрежи без съгласието на засегнатите

Защо толкова много загинаха в Испания? Европа все още не приема екстремното време

Защо толкова много загинаха в Испания? Европа все още не приема екстремното време

Свят Преди 13 часа

Въпреки доказателствата, хората се колебаят да свържат екстремното време с климатичната криза

Отсякоха с брадва ръката на човек във влак във Франция

Отсякоха с брадва ръката на човек във влак във Франция

Свят Преди 13 часа

Френските медии съобщиха, че във влака е възникнал спор

Снимка, направена на 16 октомври 2023 г., показва портрет на убития учител по френски Самуел Пати по време на церемония по отдаване на почит в училището Bois d`Aulne в Conflans-Sainte-Honorine, извън Париж, Франция, 16 октомври 2023 г.

Осем души на съд за обезглавен учител

Свят Преди 14 часа

Учителят показал карикатури на пророка Мохамед

<p>Топ 10 начина да бъдем по-щастливи</p>

Топ 10 начина да бъдем по-щастливи

Любопитно Преди 14 часа

Истинското щастие се крие в самите нас, ние го носим със себе си постоянно, но много често го потискаме и не му даваме после за изява