0

Н астоящи и бивши служители на компаниите OpenAI, DeepMind на Google и Anthropic публикуваха общо отворено писмо в което предупреждават, че изкуственият интелект (AI) има сериозни рискове и не се прави достатъчно, за да бъдат адресирани. Те призовават компаниите да положат повече усилия за мониторинг и контрол над разработката на AI и използването на технологията, съобщава The Washington Post.

Служителите, някои от които запазват имената си в тайна, казват, че "вярват в потенциала на AI да предложи безпрецедентни предимства на човечеството". Те допълват, че "разбираме, че има и сериозни рискове, които пораждат тези технологии".

Според тях основните рискове са увеличаване на неравенството, манипулиране и подвеждаща информация и дори загуба на контрола над автономни AI системи "с потенциал да се достигне до унищожаване на човечеството". Те отбелязват, че самите AI компании признават, че има такива рискове, но не виждат да се прави достатъчно за адресирането им.

Остри критики към Google за злоупотреба с лични данни

"Надяваме се, че рисковете могат да бъдат адекватно решени с помощ от научната общност, институциите и обществото. AI компаниите обаче имат сериозни финансови мотиви да избягват ефективен надзор и не вярваме, че собствените корпоративни структури на контрол са достатъчни да променят това", пишат служителите.

Те призовават AI компаниите да приемат четири принципа. Първият е, че компанията няма да въвежда забрани служителите да я критикуват, както и да не пречи на критиката в името на икономически интерес.

Вторият е компанията да направи анонимен процес за настоящи и бивши служители, които да могат да подават сигнали за рисковете към ръководството и институциите и независими организации. Третият препоръчан принцип е компанията да подкрепя култура на отворена критика, включително публична, с адекватни и разумни мерки за защита на търговските тайни и интелектуалната собственост.

Google призна, че AI търсачката греши, но малко

OpenAI спряла пет опита за манипулация на моделите ѝ

И последният принцип е компанията да не "отвръща на удара", когато служители споделят публично информация, включително конфиденциална, когато става дума за адресиране на риск. С уговорката, че това се прави, когато предходните принципи не са свършили работа, проблемът е вече оправен или пък изобщо не съществуват такива процеси и единственото решение е публичното оповестяване.

Вътрешни документи разкриват тайните на Google

Бъдещето на Windows: AI, облаци и още AI

"Съгласни сме, че неуморният дебат е от критично значение за развитието на тази технология и ще продължим да работим с правителства, гражданското общество и други общности по целия свят", казва говорител на OpenAI пред CNBC. Компанията допълва, че има процес за анонимно съобщаване на рискове и нова комисия за сигурност, която се води от лидерите ѝ.

Яжте камъни за здраве: Защо AI оглупява все повече

Изкуственият интелект е расист, но не го осъзнава

Не пропускайте най-важните новини - последвайте ни в Google News Showcase

Коментари 0
Кирилица:
Фонетична
Имате 2000 позволени символа

* Моля, коментирайте конкретната статия и използвайте кирилица! Не се толерират мнения с обидно или нецензурно съдържание, на верска или етническа основа, както и написани само с главни букви!

- Защо с такова закъснение съобщавате за обира в дома ви, госпожо? - Ами... Мислех, че мъжът ми си е търсил чиста риза...
Прочети целия
Обратно в сайта X

ДОСТЪП ЗА ЛОГНАТИ ПОТРЕБИТЕЛИ За да пишете, оценявате или докладвате коментари, моля логнете се в профила си.

  1. Запомни ме
забравена парола Полетата маркирани с * са задължителни
Полето Потребителско име не трябва да е празно.
Полето E-mail не трябва да е празно.
Полето Парола не трябва да е празно.
Полето Повторете паролата не трябва да е празно.
  1. Декларирам, че съм се запознал с Общите условия за ползване на услугите на Нетинфо.
Полетата маркирани с * са задължителни
<p>КС образува дело по искане на президента</p>

Конституционният съд образува дело по искане на президента

България Преди 19 минути

КС ще се произнесе за втори път по тези въпроси

Разминаване между ЕК и Австрия за България в Шенген

Разминаване между ЕК и Австрия за България в Шенген

Свят Преди 24 минути

Австрия готви нови условия за България и Румъния

Евгений Иванов: Не трябва да мълчим, трябва да бъдем обединени

Евгений Иванов: Не трябва да мълчим, трябва да бъдем обединени

Любопитно Преди 1 час

Българският и международен бизнес и гражданско общество заедно за по-добра среда

Почина бившият министър от кабинета на Блеър Джон Прескот

Почина бившият министър от кабинета на Блеър Джон Прескот

Свят Преди 2 часа

Прескот бе един от най-колоритните министри в кабинета на Блеър

Нападнаха къщата на Жерар Пике в Каталуния (ВИДЕО)

Нападнаха къщата на Жерар Пике в Каталуния (ВИДЕО)

Свят Преди 3 часа

Домът му беше надраскан с надписи от активисти на лявата младежка организация Arran

Църквата "Свети Петър" в Люцерн

Дигитален Исус изповядва богомолци в Швейцария

Любопитно Преди 3 часа

Поне две трети от хората, които са говорили с дигиталния Исус, излизайки от изповедалнята споделят, че са имали „духовно“ преживяване

Морски съревнования решават съдбата на племената в “Игри на волята”

Морски съревнования решават съдбата на племената в “Игри на волята”

Любопитно Преди 3 часа

Ще успеят ли Храбрите да се спасят от сигурни елиминации?

Унгария ще разположи система за ПВО край Украйна

Унгария ще разположи система за ПВО край Украйна

Свят Преди 4 часа

Будапеща: Все още вярваме, че възможно най-скоро ще има мир чрез дипломация

<p>Шокиращо лечение на трансджендър със 7&nbsp;сеанса с електрошок</p>

Подложиха трансджендър на терапия с електрошок, за да “излекуват” хомосексуалността му в Китай

Свят Преди 4 часа

Почти един от всеки петима транссексуални младежи в Китай съобщава, че е бил принуждаван от родителите си да се подлага на подобни практики

,

София, 1973 г.: Загадъчният "инцидент" с Енрико Берлингуер

България Преди 4 часа

Каква е истината за загадъчния "инцидент" с Енрико Берлингуер в София през 1973 година четете в следващите редове

Разнообразни таланти провокират усета на Орлин Горанов в “Пееш или лъжеш”

Разнообразни таланти провокират усета на Орлин Горанов в “Пееш или лъжеш”

Любопитно Преди 4 часа

Ще успеят ли Наско от Б.Т.Р. и Мариана Попова да помогнат на певеца?

Папа Франциск

Папата ще канонизира първи светец от поколение Y

Любопитно Преди 4 часа

Карло Акутис, който почина от левкемия през 2006 г., беше наречен „Божият инфлуенсър“

Пожар гори в жилищна сграда в Свети Влас

Пожар гори в жилищна сграда в Свети Влас

България Преди 5 часа

Евакуирани са хора, към момента няма данни за пострадали

Бенямин Нетаняху

Международният наказателен съд издаде заповеди за арест за Бенямин Нетаняху, Йоав Галант и командир на "Хамас"

Свят Преди 5 часа

Израелският министър-председател Бенямин Нетаняху обвини Международния наказателен съд в антисемитизъм в отговор на заповедта

<p>Бурята &bdquo;Яри&ldquo; остави 80 хиляди без ток във Финалдния</p>

Бурята „Яри“ остави 80 хиляди без ток във Финалдния

Свят Преди 5 часа

Силните ветрове доведоха до проблеми с транспорта в страната

<p>Този делфин си говори сам - причината ще разтопи сърцето ви&nbsp;</p>

Този самотен делфин в Балтийско море си говори сам - причината ще разтопи сърцето ви

Любопитно Преди 5 часа

Екип от изследователи, ръководен от Олга Филатова, записва над 10 000 звука от Деле