Н астоящи и бивши служители на компаниите OpenAI, DeepMind на Google и Anthropic публикуваха общо отворено писмо в което предупреждават, че изкуственият интелект (AI) има сериозни рискове и не се прави достатъчно, за да бъдат адресирани. Те призовават компаниите да положат повече усилия за мониторинг и контрол над разработката на AI и използването на технологията, съобщава The Washington Post.

Служителите, някои от които запазват имената си в тайна, казват, че "вярват в потенциала на AI да предложи безпрецедентни предимства на човечеството". Те допълват, че "разбираме, че има и сериозни рискове, които пораждат тези технологии".

Според тях основните рискове са увеличаване на неравенството, манипулиране и подвеждаща информация и дори загуба на контрола над автономни AI системи "с потенциал да се достигне до унищожаване на човечеството". Те отбелязват, че самите AI компании признават, че има такива рискове, но не виждат да се прави достатъчно за адресирането им.

Остри критики към Google за злоупотреба с лични данни

"Надяваме се, че рисковете могат да бъдат адекватно решени с помощ от научната общност, институциите и обществото. AI компаниите обаче имат сериозни финансови мотиви да избягват ефективен надзор и не вярваме, че собствените корпоративни структури на контрол са достатъчни да променят това", пишат служителите.

Те призовават AI компаниите да приемат четири принципа. Първият е, че компанията няма да въвежда забрани служителите да я критикуват, както и да не пречи на критиката в името на икономически интерес.

Вторият е компанията да направи анонимен процес за настоящи и бивши служители, които да могат да подават сигнали за рисковете към ръководството и институциите и независими организации. Третият препоръчан принцип е компанията да подкрепя култура на отворена критика, включително публична, с адекватни и разумни мерки за защита на търговските тайни и интелектуалната собственост.

Google призна, че AI търсачката греши, но малко

OpenAI спряла пет опита за манипулация на моделите ѝ

И последният принцип е компанията да не "отвръща на удара", когато служители споделят публично информация, включително конфиденциална, когато става дума за адресиране на риск. С уговорката, че това се прави, когато предходните принципи не са свършили работа, проблемът е вече оправен или пък изобщо не съществуват такива процеси и единственото решение е публичното оповестяване.

Вътрешни документи разкриват тайните на Google

Бъдещето на Windows: AI, облаци и още AI

"Съгласни сме, че неуморният дебат е от критично значение за развитието на тази технология и ще продължим да работим с правителства, гражданското общество и други общности по целия свят", казва говорител на OpenAI пред CNBC. Компанията допълва, че има процес за анонимно съобщаване на рискове и нова комисия за сигурност, която се води от лидерите ѝ.

Яжте камъни за здраве: Защо AI оглупява все повече

Изкуственият интелект е расист, но не го осъзнава

Не пропускайте най-важните новини - последвайте ни в Google News Showcase

Обратно в сайта X

ДОСТЪП ЗА ЛОГНАТИ ПОТРЕБИТЕЛИ За да пишете, оценявате или докладвате коментари, моля логнете се в профила си.

  1. Запомни ме
забравена парола Полетата маркирани с * са задължителни
Полето Потребителско име не трябва да е празно.
Полето E-mail не трябва да е празно.
Полето Парола не трябва да е празно.
Полето Повторете паролата не трябва да е празно.
  1. Декларирам, че съм се запознал с Общите условия за ползване на услугите на Нетинфо.
Полетата маркирани с * са задължителни
МС назначи трима нови областни управители

МС назначи трима нови областни управители

България Преди 39 минути

Министерският съвет прие решението на днешното си заседание

Зов за помощ: 13-годишната Дария се бори с опасно за живота заболяване

Зов за помощ: 13-годишната Дария се бори с опасно за живота заболяване

България Преди 1 час

Дария страда от артерио-венозна малформация на лицето

Купуват 35 нови електрически влака за БДЖ

Купуват 35 нови електрически влака за БДЖ

България Преди 2 часа

С приемането на решението се осигурява временен безлихвен заем на Министерството на транспорта и съобщенията

„Български пощи” ще обменят левове в евро в 2230 офиса

„Български пощи” ще обменят левове в евро в 2230 офиса

България Преди 2 часа

Това ще е възможно за суми до 1 000 лв. на ден за един човек

<p>Появиха се нови подробности за обира на Кристи Ноем</p>

Появиха се нови подробности за обира на министъра на вътрешната сигурност на САЩ

Свят Преди 3 часа

Облечен в тъмни дрехи, крадецът сяда на празна маса до министъра с гръб към нея

БАН за Турция: Трусовете могат да продължат с месеци

БАН за Турция: Трусовете могат да продължат с месеци

Свят Преди 3 часа

30 минути преди това е имало и по-слабо земетресение

Разкриха как изглежда мистериозният портрет на Тръмп, подарен от Путин

Разкриха как изглежда мистериозният портрет на Тръмп, подарен от Путин

Свят Преди 3 часа

Руският художник Никас Сафронов разкрива историята зад драматичната творба

<p>Путин призна за слабости във въоръжението</p>

"Наясно съм, че не е достатъчно": Путин призна за слабости във въоръжението

Свят Преди 3 часа

Руският държавен глава каза, че има пропуски и в други области.

Снимката е илюстративна

Младеж е тежко ранен след нападение с брадва

България Преди 4 часа

Пострадалият е откаран за лечение в болница в Плевен в тежко състояние

ЕК: Присъединяването на България и Румъния към Шенген укрепва икономиката на ЕС

ЕК: Присъединяването на България и Румъния към Шенген укрепва икономиката на ЕС

България Преди 4 часа

Това сочи доклад на Европейската комисия за състоянието на зоната без гранични проверки

<p>Палестинският президент: Аз плащам цената за това</p>

Палестинският президент призова "Хамас" да освободи заложниците

Свят Преди 4 часа

Израел сложи край на примирието с "Хамас" миналия месец и обеща да продължава войната

Къде в България беше усетено най-силно земетресението в Турция

Къде в България беше усетено най-силно земетресението в Турция

България Преди 4 часа

Според данни от НИГГГ – БАН, епицентърът на земетресението е бил на около 140 км от град Малко Търново, на 200 км от Бургас и на 460 км от София

Делян Пеевски прие кметовете на Главиница и Ситово

Делян Пеевски прие кметовете на Главиница и Ситово

България Преди 4 часа

На срещата са коментирани проблемите на региона

Кремъл: Има много нюанси около преговорите за край на войната в Украйна

Кремъл: Има много нюанси около преговорите за край на войната в Украйна

Свят Преди 4 часа

Песков заяви, че Русия продължава диалога със САЩ за възможното постигане на споразумение

Сериалът „Майките” вдъхнови най-новата българска песен

Сериалът „Майките” вдъхнови най-новата българска песен

Любопитно Преди 4 часа

Финалът на социалната драма е утре в ефира на NOVA, а за екипа предстои емоционално завръщане на една от снимачните локации

Малкият принц Луи навърши 7, Кейт сподели очарователна снимка

Малкият принц Луи навърши 7, Кейт сподели очарователна снимка

Любопитно Преди 4 часа

Луи Артър Чарлз Маунтбатън-Уиндзор – най-малкото дете на семейството Уелс – е роден на 23 април 2018 г.