12

И деята за изкуствения интелект, който ще завладее човечеството от десетилетия витае наоколо и програми като ChatGPT само подновиха тези опасения.

И така, колко вероятно е да контролираме компютърен суперинтелект на високо ниво? Учените опитаха да изчислят това още през 2021 г. Отговорът? Нямаме почти никакъв шанс.

Уловката тук е, че контролирането на ИИ, който все още е далеч от човешкото разбиране, би изисквало да се създаде такава симулация, за да можем да я анализираме. Но ако не сме в състояние да го разберем, не е възможно да създадем симулацията.

Заповеди от типа „не причинявай вреда на хората“ не могат да бъдат зададени, ако не можем да предположим сценариите, които ИИ би могъл да измисли, казват учените. Ако компютърната система работи на ниво над способностите на програмистите ни, ние вече не сме в състояние да задаваме ограничения.

Свръхинтелигентността поставя фундаментално различни проблеми от тези, които обикновено се изучават при „етика на роботите“, пишат изследователите през 2021 г.

Това е така, защото суперинтелектът е многостранен и потенциално способен да мобилизира разнообразие от ресурси, за да постигне цели, които са потенциално неразбираеми за хората, да не говорим за контролируеми.

Част от разсъжденията на екипа идват от проблема със „спирането“, поставен от Алън Тюринг през 1936 г. Проблемът се съсредоточава върху това дали една компютърна програма ще може да достига до заключения и отговори (и ще спре), или просто ще зацикли завинаги, опитвайки се да намери такъв.

Както Тюринг доказал, докато за някои програми е възможно да знаем дали биха спрели, но логически погледнато не е възможно да намерим начин, който да ни позволява да разбираме това за всяка програма, която потенциално в бъдеще може да бъде създадена.

Това ни връща към ИИ, който би могъл да съдържа наведнъж в паметта си всяка възможна компютърна програма.

Всяка програма, написана, за да спре изкуствения интелект да наранява хората и да унищожава света, може да стигне до заключението, че е тръгнала по този опасен път да и да спре или не – математически обаче е невъзможно да бъдем абсолютно сигурни и за двата случая.

На практика това прави алгоритъма за ограничаване неизползваем“, каза компютърният учен Ияд Рахван от Института Макс-Планк за човешко развитие в Германия.

Алтернативата да бъде преподавана етика на ИИ и му бъде наредено да не унищожава света е нещо, което не сме сигурни, че който и да бил алгоритъм ще може със сигурност да следва, казват изследователите. Друг вариант е да се ограничат възможностите на ИИ. Може да му бъде спрян достъпа до части от интернет или до определени мрежи, например.

Проучване от 2021 г. обаче отхвърля и тази идея, като предполага, че това би ограничило функциите на изкуствения интелект – аргументът е, че ако няма да го използваме за решаване на проблеми извън обсега на хората, тогава защо изобщо да го създаваме?

Ако изберем да вървим напред с изкуствения интелект, съществува опасността да не разберем кога нещата са излезли извън нашия контрол. Заради това трябва да започнем да задаваме някои сериозни въпроси относно посоките, в които вървим.

По-рано тази година технологични гиганти, включително Илон Мъск и съоснователят на Apple Стив Возняк, подписаха отворено писмо, в което поискаха от човечеството да спре работата по изкуствения интелект поне за 6 месеца, за да може да се проучи как да продължи развитието му по безопасен начин.

ИИ системите трябва да бъдат разработени само след като сме уверени, че техните ефекти ще бъдат положителни и рисковете, които могат да възникнат ще бъдат управляеми“, се казва в него.

Коментари 12
Кирилица:
Фонетична
Имате 2000 позволени символа

* Моля, коментирайте конкретната статия и използвайте кирилица! Не се толерират мнения с обидно или нецензурно съдържание, на верска или етническа основа, както и написани само с главни букви!

12 коментара
 
Обратно в сайта X

ДОСТЪП ЗА ЛОГНАТИ ПОТРЕБИТЕЛИ За да пишете, оценявате или докладвате коментари, моля логнете се в профила си.

  1. Запомни ме
забравена парола Полетата маркирани с * са задължителни
Полето Потребителско име не трябва да е празно.
Полето E-mail не трябва да е празно.
Полето Парола не трябва да е празно.
Полето Повторете паролата не трябва да е празно.
  1. Декларирам, че съм се запознал с Общите условия за ползване на услугите на Нетинфо.
Полетата маркирани с * са задължителни
Румъния подписа със САЩ за купуване на изтребители F-35

Румъния подписа със САЩ за купуване на изтребители F-35

Свят Преди 2 часа

Румъния планира да "пенсионира" F-16 през 2040 г.

САЩ наложиха санкции на десетки руски банки

САЩ наложиха санкции на десетки руски банки

Свят Преди 3 часа

Включително най-голямата, която досега не беше санкционирана

Последни номинации очи в очи в Big Brother тази вечер

Последни номинации очи в очи в Big Brother тази вечер

Любопитно Преди 5 часа

Зрителите подкрепят фаворите си в приложението на NOVA PLAY

САЩ отхвърлиха заповедта за арест на Нетаняху

САЩ отхвърлиха заповедта за арест на Нетаняху

Свят Преди 6 часа

САЩ: Дълбоко сме обезпокоени от бързината, с която прокурорът е поискал заповед за арест

<p>КС образува дело по искане на президента</p>

Конституционният съд образува дело по искане на президента

България Преди 6 часа

КС ще се произнесе за втори път по тези въпроси

Съдът отложи делото срещу Марин Димитров

Съдът отложи делото срещу Марин Димитров

България Преди 7 часа

Съдът назначи и медицинска експертиза, която да установи колко сериозно е положението на Димитров

ГЕРБ-СДС в СОС поиска оставката на Цветомир Петров

ГЕРБ-СДС в СОС поиска оставката на Цветомир Петров

България Преди 8 часа

Зам.-председателят на СОС Ваня Тагарева припомни, че Петров е бил избран с гласовете на ГЕРБ-СДС

Евгений Иванов: Не трябва да мълчим, трябва да бъдем обединени

Евгений Иванов: Не трябва да мълчим, трябва да бъдем обединени

Любопитно Преди 8 часа

Българският и международен бизнес и гражданско общество заедно за по-добра среда

Почина бившият министър от кабинета на Блеър Джон Прескот

Почина бившият министър от кабинета на Блеър Джон Прескот

Свят Преди 9 часа

Прескот бе един от най-колоритните министри в кабинета на Блеър

Русия заплаши с глобална катастрофа и ядрена война

Русия заплаши с глобална катастрофа и ядрена война

Свят Преди 9 часа

Русия има списък с приоритетни цели за потенциално унищожаване

Нападнаха къщата на Жерар Пике в Каталуния (ВИДЕО)

Нападнаха къщата на Жерар Пике в Каталуния (ВИДЕО)

Свят Преди 9 часа

Домът му беше надраскан с надписи от активисти на лявата младежка организация Arran

Църквата "Свети Петър" в Люцерн

Дигитален Исус изповядва богомолци в Швейцария

Любопитно Преди 9 часа

Поне две трети от хората, които са говорили с дигиталния Исус, излизайки от изповедалнята споделят, че са имали „духовно“ преживяване

Морски съревнования решават съдбата на племената в “Игри на волята”

Морски съревнования решават съдбата на племената в “Игри на волята”

Любопитно Преди 10 часа

Ще успеят ли Храбрите да се спасят от сигурни елиминации?

<p>Зеленски разкри, че нов тип ракета е ударила Украйна</p>

Зеленски: Русия е използвала "нов тип" ракета, която има "характеристики на междуконтинентална балистична ракета"

Свят Преди 10 часа

„Днес нашият луд съсед за пореден път показа какво представлява в действителност и как презира достойнството, свободата и човешкия живот като цяло“, заяви Зеленски в изявление

Унгария ще разположи система за ПВО край Украйна

Унгария ще разположи система за ПВО край Украйна

Свят Преди 10 часа

Будапеща: Все още вярваме, че възможно най-скоро ще има мир чрез дипломация

<p>Шокиращо лечение на трансджендър със 7&nbsp;сеанса с електрошок</p>

Подложиха трансджендър на терапия с електрошок, за да “излекуват” хомосексуалността му в Китай

Свят Преди 10 часа

Почти един от всеки петима транссексуални младежи в Китай съобщава, че е бил принуждаван от родителите си да се подлага на подобни практики