Н астоящи и бивши служители на компаниите OpenAI, DeepMind на Google и Anthropic публикуваха общо отворено писмо в което предупреждават, че изкуственият интелект (AI) има сериозни рискове и не се прави достатъчно, за да бъдат адресирани. Те призовават компаниите да положат повече усилия за мониторинг и контрол над разработката на AI и използването на технологията, съобщава The Washington Post.

Служителите, някои от които запазват имената си в тайна, казват, че "вярват в потенциала на AI да предложи безпрецедентни предимства на човечеството". Те допълват, че "разбираме, че има и сериозни рискове, които пораждат тези технологии".

Според тях основните рискове са увеличаване на неравенството, манипулиране и подвеждаща информация и дори загуба на контрола над автономни AI системи "с потенциал да се достигне до унищожаване на човечеството". Те отбелязват, че самите AI компании признават, че има такива рискове, но не виждат да се прави достатъчно за адресирането им.

Остри критики към Google за злоупотреба с лични данни

"Надяваме се, че рисковете могат да бъдат адекватно решени с помощ от научната общност, институциите и обществото. AI компаниите обаче имат сериозни финансови мотиви да избягват ефективен надзор и не вярваме, че собствените корпоративни структури на контрол са достатъчни да променят това", пишат служителите.

Те призовават AI компаниите да приемат четири принципа. Първият е, че компанията няма да въвежда забрани служителите да я критикуват, както и да не пречи на критиката в името на икономически интерес.

Вторият е компанията да направи анонимен процес за настоящи и бивши служители, които да могат да подават сигнали за рисковете към ръководството и институциите и независими организации. Третият препоръчан принцип е компанията да подкрепя култура на отворена критика, включително публична, с адекватни и разумни мерки за защита на търговските тайни и интелектуалната собственост.

Google призна, че AI търсачката греши, но малко

OpenAI спряла пет опита за манипулация на моделите ѝ

И последният принцип е компанията да не "отвръща на удара", когато служители споделят публично информация, включително конфиденциална, когато става дума за адресиране на риск. С уговорката, че това се прави, когато предходните принципи не са свършили работа, проблемът е вече оправен или пък изобщо не съществуват такива процеси и единственото решение е публичното оповестяване.

Вътрешни документи разкриват тайните на Google

Бъдещето на Windows: AI, облаци и още AI

"Съгласни сме, че неуморният дебат е от критично значение за развитието на тази технология и ще продължим да работим с правителства, гражданското общество и други общности по целия свят", казва говорител на OpenAI пред CNBC. Компанията допълва, че има процес за анонимно съобщаване на рискове и нова комисия за сигурност, която се води от лидерите ѝ.

Яжте камъни за здраве: Защо AI оглупява все повече

Изкуственият интелект е расист, но не го осъзнава

Не пропускайте най-важните новини - последвайте ни в Google News Showcase

Обратно в сайта X

ДОСТЪП ЗА ЛОГНАТИ ПОТРЕБИТЕЛИ За да пишете, оценявате или докладвате коментари, моля логнете се в профила си.

  1. Запомни ме
забравена парола Полетата маркирани с * са задължителни
Полето Потребителско име не трябва да е празно.
Полето E-mail не трябва да е празно.
Полето Парола не трябва да е празно.
Полето Повторете паролата не трябва да е празно.
  1. Декларирам, че съм се запознал с Общите условия за ползване на услугите на Нетинфо.
Полетата маркирани с * са задължителни
Израел маха всички мита върху вноса от САЩ

Израел маха всички мита върху вноса от САЩ

Свят Преди 5 часа

Съединените щати са най-близкият съюзник на Израел

Германия конфискува танкер с руски петрол

Германия конфискува танкер с руски петрол

Свят Преди 5 часа

Европейският съюз включи плавателния съд в списъка със санкции срещу Русия

ДПС-ДПС реши да подкрепи кабинета „Желязков“

ДПС-ДПС реши да подкрепи кабинета „Желязков“

България Преди 7 часа

ДПС-ДПС ще продължи подкрепата си до приемането на еврото

БСП: Делото срещу Румен Овчаров е прекратено поради липса на престъпление

БСП: Делото срещу Румен Овчаров е прекратено поради липса на престъпление

България Преди 9 часа

Πpoĸypopът oт CГΠ ĸoнcтaтиpa, чe пo пoвдигнaтoтo oбвинeниe нямa извъpшeнo пpecтъплeниe oт Pyмeн Oвчapoв

Сърбите се вдигнаха срещу мина за литий

Сърбите се вдигнаха срещу мина за литий

Свят Преди 9 часа

В Сърбия през последните четири години бяха организирани масови протести и пътни блокади

Кола помете човек на пешеходна пътека в Разград

Кола помете човек на пешеходна пътека в Разград

България Преди 9 часа

Пострадалият е откаран в разградската болница

Френският главен прокурор защити присъдата на Льо Пен

Френският главен прокурор защити присъдата на Льо Пен

Свят Преди 10 часа

Решението на френския съд е "съобразно закона"

Протестиращи блокираха булевард в София

Протестиращи блокираха булевард в София

България Преди 10 часа

От „Защита” уточниха, че ако не бъдат изпълнени исканията им, са в готовност за ефективни национални протести

Екшън, полицията гони мъже, откраднали 450 метра медни проводници

Екшън, полицията гони мъже, откраднали 450 метра медни проводници

България Преди 10 часа

В хода на операцията по задържането са се включили екипи на „Специални тактически действия“

Снимката е илюстративна

Ужас във Варна: 50-годишен мъж осъден за системно насилие над дете

България Преди 10 часа

Истината излиза наяве, когато момичето е настанено в кризисен център и се установява, че е бременно

Столична община спира приемането на отпадъци от болници

Столична община спира приемането на отпадъци от болници

България Преди 10 часа

Причината е случай на нерегламентирано смесване на битови и медицински отпадъци

<p>Иран ще потърси ядрени оръжия, ако бъде нападната</p>

Иран ще потърси ядрени оръжия, ако бъде нападната

Свят Преди 10 часа

Нарастващото напрежение между Иран и САЩ отново разпали опасенията относно военен конфликт

<p>Първата европейска орбитална ракета се разби след 40 секунди</p>

Първата орбитална ракета, изстреляна от Европа, се разби в морето

Свят Преди 10 часа

Ракетата се разби в морето и се взриви 40 секунди по-късно

Доналд Тръмп коментира връзката между Тайгър Уудс и бившата си снаха

Доналд Тръмп коментира връзката между Тайгър Уудс и бившата си снаха

Свят Преди 11 часа

„Обичам Тайгър и обичам Ванеса“, заяви американският президент

КЕВР намали рязко цената на природния газ

КЕВР намали рязко цената на природния газ

България Преди 11 часа

Председателят на КЕВР Пламен Младеновски : Значително намаление с 14,3%

Сергей Рябков

Русия разглежда мирното предложение на САЩ, но настоява за промени

Свят Преди 11 часа

Бъдещите модели и схеми на САЩ за разрешаване на конфликта в Украйна все още не са премахнали първопричините за него; това трябва да бъде преодоляно, казва руският заместник-министър на външните работи Сергей Рябков