0

Н астоящи и бивши служители на компаниите OpenAI, DeepMind на Google и Anthropic публикуваха общо отворено писмо в което предупреждават, че изкуственият интелект (AI) има сериозни рискове и не се прави достатъчно, за да бъдат адресирани. Те призовават компаниите да положат повече усилия за мониторинг и контрол над разработката на AI и използването на технологията, съобщава The Washington Post.

Служителите, някои от които запазват имената си в тайна, казват, че "вярват в потенциала на AI да предложи безпрецедентни предимства на човечеството". Те допълват, че "разбираме, че има и сериозни рискове, които пораждат тези технологии".

Според тях основните рискове са увеличаване на неравенството, манипулиране и подвеждаща информация и дори загуба на контрола над автономни AI системи "с потенциал да се достигне до унищожаване на човечеството". Те отбелязват, че самите AI компании признават, че има такива рискове, но не виждат да се прави достатъчно за адресирането им.

Остри критики към Google за злоупотреба с лични данни

"Надяваме се, че рисковете могат да бъдат адекватно решени с помощ от научната общност, институциите и обществото. AI компаниите обаче имат сериозни финансови мотиви да избягват ефективен надзор и не вярваме, че собствените корпоративни структури на контрол са достатъчни да променят това", пишат служителите.

Те призовават AI компаниите да приемат четири принципа. Първият е, че компанията няма да въвежда забрани служителите да я критикуват, както и да не пречи на критиката в името на икономически интерес.

Вторият е компанията да направи анонимен процес за настоящи и бивши служители, които да могат да подават сигнали за рисковете към ръководството и институциите и независими организации. Третият препоръчан принцип е компанията да подкрепя култура на отворена критика, включително публична, с адекватни и разумни мерки за защита на търговските тайни и интелектуалната собственост.

Google призна, че AI търсачката греши, но малко

OpenAI спряла пет опита за манипулация на моделите ѝ

И последният принцип е компанията да не "отвръща на удара", когато служители споделят публично информация, включително конфиденциална, когато става дума за адресиране на риск. С уговорката, че това се прави, когато предходните принципи не са свършили работа, проблемът е вече оправен или пък изобщо не съществуват такива процеси и единственото решение е публичното оповестяване.

Вътрешни документи разкриват тайните на Google

Бъдещето на Windows: AI, облаци и още AI

"Съгласни сме, че неуморният дебат е от критично значение за развитието на тази технология и ще продължим да работим с правителства, гражданското общество и други общности по целия свят", казва говорител на OpenAI пред CNBC. Компанията допълва, че има процес за анонимно съобщаване на рискове и нова комисия за сигурност, която се води от лидерите ѝ.

Яжте камъни за здраве: Защо AI оглупява все повече

Изкуственият интелект е расист, но не го осъзнава

Не пропускайте най-важните новини - последвайте ни в Google News Showcase

Коментари 0
Кирилица:
Фонетична
Имате 2000 позволени символа

* Моля, коментирайте конкретната статия и използвайте кирилица! Не се толерират мнения с обидно или нецензурно съдържание, на верска или етническа основа, както и написани само с главни букви!

Обратно в сайта X

ДОСТЪП ЗА ЛОГНАТИ ПОТРЕБИТЕЛИ За да пишете, оценявате или докладвате коментари, моля логнете се в профила си.

  1. Запомни ме
забравена парола Полетата маркирани с * са задължителни
Полето Потребителско име не трябва да е празно.
Полето E-mail не трябва да е празно.
Полето Парола не трябва да е празно.
Полето Повторете паролата не трябва да е празно.
  1. Декларирам, че съм се запознал с Общите условия за ползване на услугите на Нетинфо.
Полетата маркирани с * са задължителни
България привика посланика на КНДР заради Украйна

България привика посланика на КНДР заради Украйна

България Преди 32 минути

Българската страна препотвърди позициите си

Пламен Димитров: Във Vivacom всеки ден ставаме все по-добри в името на клиента

Пламен Димитров: Във Vivacom всеки ден ставаме все по-добри в името на клиента

Любопитно Преди 1 час

Старши мениджърът в отдел „Клиентско изживяване“ в телекома се включи в инициативата „Мениджър за един ден“ на Junior Achievement

Главчев: Ако президентът има забележки към Илков, може да поиска смяната му

Главчев: Ако президентът има забележки към Илков, може да поиска смяната му

България Преди 2 часа

Главчев припомни, че МВР и ДАНС са представили доклади

а

Останки от делфин са открити на плажа в Ню Джърси

Свят Преди 2 часа

Месото на делфина е било напълно отстранено с чисти разрези от остър инструмент

"Възраждане" подписа жалба за касиране на вота, чака подкрепа

"Възраждане" подписа жалба за касиране на вота, чака подкрепа

България Преди 2 часа

Жалбата се подава от "Възраждане" като потърпевш

Погребаха актрисата Маги Смит на частна церемония в Ричмънд

Погребаха актрисата Маги Смит на частна церемония в Ричмънд

Свят Преди 2 часа

Маги Смит почина на 27 септември след продължително боледуване

<p>Памела, Бети, Принс - коя е Бионсе на Хелоуин</p>

Бионсе избра за Хелоуин да е... Памела Андерсън, Принс и Аполония и Бети Дейвис

Любопитно Преди 2 часа

Певицата изглежда обича да влиза в различни роли

Одобриха кандидатурата на Екатерина Захариева за еврокомисар

Одобриха кандидатурата на Екатерина Захариева за еврокомисар

Свят Преди 3 часа

Захариева ще отговаря за ресора "Стартъпи, проучвания и иновации"

Ричард Гиър напуска Америка заради младата си съпруга

Ричард Гиър напуска Америка заради младата си съпруга

Любопитно Преди 3 часа

Феновете на актьора се страхуват, че Гиър планира да прекрати кариерата си

Кметът Терзиев се усъмни в качеството на въздуха в София

Кметът Терзиев се усъмни в качеството на въздуха в София

България Преди 3 часа

Кметът Терзиев посочи, че миенето на улиците, почистването и окосяването са важни мерки

Снимката е илюстративна

Мълния уби футболист по време на мач

Свят Преди 3 часа

Ранени са четирима, като вратарят остава в критично състояние

<p>Кой е бил най-популярният филм в годината ви на раждане</p>

Кой е бил най-популярният филм в годината ви на раждане

Любопитно Преди 3 часа

Има много ленти, които си заслужава да бъдат гледани отново и отново

<p>&bdquo;Секс. Клоуни. Убийство&ldquo;</p>

„Секс. Клоуни. Убийство“: Кой застреля от упор Марлин Уорън

Свят Преди 3 часа

Странното убийство остава неразкрито в продължение на 27 години

СофтУни празнува 11 години знания и успехи!

СофтУни празнува 11 години знания и успехи!

Технологии Преди 3 часа

А ето и какво беше постигнато за тези 11 години

Алианса за корпоративна социална отговорност

United Group се присъедини към Алианса за корпоративна социална отговорност

Любопитно Преди 3 часа

Основната цел на Алианса за корпоративна социална отговорност е да насърчи отговорните бизнес практики по цялата верига за доставки в областта на телекомуникациите

<p>Сръбският министър на транспорта&nbsp;подаде оставка</p>

Сръбският министър на транспорта Горан Весич подаде оставка

Свят Преди 3 часа

Причина за оттеглянето му е инцидентът, при който козирка на жп гарата в Нови Сад рухна и 14 души загинаха