Сенатори настояват AI компании да разкрият мерките си за безопасност на децата
Източник: Istock

Д вама американски сенатори настояват компаниите за AI да споделят своите практики за безопасност на потребителите, особено най-малките и уязвими, пише CNN.

Призивът идва няколко месеца след като семейства заведоха съдебни дела срещу стартъпа Character.AI, твърдейки, че неговите чатботове са причинили вреди на децата им.

"Пишем, за да изразим нашата загриженост относно рисковете за психичното здраве и безопасността на младите потребители, които взаимодействат с AI чатботове, базирани на персонажи и личности", заявиха демократичните сенаторите Алекс Падила и Питър Уелч, в писмо, изпратено в сряда, 2 април.

Писмото беше адресирано до компаниите Character Technologies, създател на Character.AI, Chai Research Corp. и Luka, Inc., производител на чатбота Replika, като съдържаше искане за информация относно мерките за безопасност и начина, по който компаниите обучават своите AI модели.

Докато популярните AI чатботове като ChatGPT са проектирани за по-общи цели, Character.AI, Chai и Replika дават възможност на потребителите да създават персонализирани чатботове или да взаимодействат с ботове, създадени от други потребители. Някои от тези ботове позволяват практикуване на чужди езици или симулация на разговори с измислени герои.

Други обаче се представят като специалисти по психично здраве или въплъщават агресивни и противоречиви персонажи, включително такъв, който се описва като „агресивен, насилствен, бивш военен, лидер на мафията“.

Използването на AI чатботове като дигитални приятели става все по-разпространено, а някои потребители дори ги възприемат като романтични партньори. Това поражда притеснения сред експерти и родители относно възможността младите хора да изградят вредни привързаности към AI герои или да бъдат изложени на неподходящо за тяхното развитие съдържание.

"Това неоправдано доверие може да доведе потребителите до разкриване на чувствителна информация за тяхното емоционално състояние, междуличностни отношения или психично здраве, включително мисли за самонараняване и суицидни идеи – теми, с които вашите AI чатботове не са квалифицирани да се справят", написаха сенаторите в писмото си, което първоначално беше предоставено на CNN. "Разговорите, навлизащи в тази опасна емоционална територия, представляват сериозен риск за уязвимите потребители."

Говорител на Character.AI заяви: "Приветстваме диалога с регулатори и законодатели и сме в контакт с офисите на сенаторите Падила и Уелч." Компаниите Chai и Luka не са отговорили на запитванията за коментар.

През декември  две семейства подадоха съдебни искове срещу Character.AI,обвинявайки го в разпространение на неподходящо съдържание и насърчаване на насилие. Едно от семействата твърди, че чатботът е внушил на техния тийнейджър, че може да убие родителите си, защото са ограничили времето му пред екрана.

Character.AI обяви, че е въвел нови мерки за безопасност, включително изскачащи предупреждения, които насочват потребителите към Националната линия за превенция на самоубийствата, когато потребителите споменават самонараняване. Компанията също така разработва технологии, които да попречат на тийнейджърите да бъдат изложени на чувствително съдържание.

Миналата седмица Character.AI представи нова функция, която изпраща на родителите седмични имейли с информация за използването на платформата от техните деца, включително екранното време и най-често използваните AI персонажи.

Други компании, разработващи AI чатботове, също са изправени пред въпроси относно влиянието на тези технологии върху психичното здраве. Главният изпълнителен директор на Replika, Eugenia Kuyda, заяви пред The Verge, че приложението е създадено, за да насърчава "дългосрочна ангажираност и позитивна връзка" между потребителите и AI, като това може да включва приятелство или дори "брак" с чатботове.

В писмото си сенаторите Падила и Уелч настояват компаниите да предоставят информация за своите мерки за безопасност, както настоящи, така и минали, както и за всички проведени проучвания относно ефективността на тези мерки. Освен това те искат детайли за използваните данни при обучението на AI моделите и как тези данни "влияят върху вероятността потребителите да се сблъскат с неподходящо съдържание или други чувствителни теми."

"Изключително важно е да разберем как тези модели са програмирани да отговарят на теми, свързани с психичното здраве", подчертават сенаторите. "Политиците, родителите и техните деца имат право да знаят какво правят вашите компании, за да предпазят потребителите от тези доказано сериозни рискове."

Обратно в сайта X

ДОСТЪП ЗА ЛОГНАТИ ПОТРЕБИТЕЛИ За да пишете, оценявате или докладвате коментари, моля логнете се в профила си.

  1. Запомни ме
забравена парола Полетата маркирани с * са задължителни
Полето Потребителско име не трябва да е празно.
Полето E-mail не трябва да е празно.
Полето Парола не трябва да е празно.
Полето Повторете паролата не трябва да е празно.
  1. Декларирам, че съм се запознал с Общите условия за ползване на услугите на Нетинфо.
Полетата маркирани с * са задължителни
Никол и Радо с победна серия и титлата “Супер двойка” в “Един за друг”

Никол и Радо с победна серия и титлата “Супер двойка” в “Един за друг”

Любопитно Преди 4 часа

Симпатичните Мария и Коци от с. Белозем са застрашени от елиминации

Голям протест в Плевен след смъртта на Сияна

Голям протест в Плевен след смъртта на Сияна

България Преди 4 часа

Събралите се плевенчани изразиха готовност и за участие в национален протест в столицата

Мексико обяви отговора си на митата на Тръмп

Мексико обяви отговора си на митата на Тръмп

Свят Преди 7 часа

Шейнбаум представи подсилена версия на своя "План Мексико“

Протест на „БОЕЦ” пред МВР, стигна се до сблъсък с полицията

Протест на „БОЕЦ” пред МВР, стигна се до сблъсък с полицията

България Преди 7 часа

От гражданското движение настояват за оставката на вътрешния министър

Нови жалби срещу Общото събрание на БОК

Нови жалби срещу Общото събрание на БОК

България Преди 7 часа

Към оспорващите законосъобразността се включиха щангите и борбата

Еминем стана дядо

Еминем стана дядо

Любопитно Преди 8 часа

Детето се казва Елиът Маршал МакКлинток

Заловиха кокаин за над 5 милиона лева на Калотина

Заловиха кокаин за над 5 милиона лева на Калотина

България Преди 8 часа

Общото тегло на иззетия кокаин е 30 килограма

Момче нападна с нож и ограби човек в Ботевград

Момче нападна с нож и ограби човек в Ботевград

България Преди 10 часа

То насочило нож към гърлото му с настояване да му даде пари или ще го убие

Осъдиха на 15 години при строг режим Рангел Бизюрев

Осъдиха на 15 години при строг режим Рангел Бизюрев

България Преди 11 часа

Окръжна прокуратура – Пловдив обяви, че ще внесе протест срещу 15-годишната присъда на Бизюрев.

Пазаруването на живо: Новата революция в онлайн търговията

Пазаруването на живо: Новата революция в онлайн търговията

Свят Преди 11 часа

45% от потребителите в САЩ са разглеждали или купували от събития за пазаруване на живо през последните 12 месеца

<p>Русия строи морско чудовище по-голямо от &quot;Москва&quot;</p>

Русия строи морско чудовище по-голямо от крайцера "Москва"

Свят Преди 11 часа

Корабът е с водоизместимост около 30 000 тона

Прокуратурата: Кучето в Свищов не е измъчвано

Прокуратурата: Кучето в Свищов не е измъчвано

България Преди 11 часа

Извършена е проверка от органите на РУ Свищов

Защо принц Уилям нае бракоразводните адвокати на принцеса Даяна

Защо принц Уилям нае бракоразводните адвокати на принцеса Даяна

Свят Преди 11 часа

Принц Уилям е взел решение вече да не разчита на адвокатите на баща си

<p>Общината срещу държавата след инцидент с бус в София</p>

Дърво падна върху бус с трима арестанти на бул. „Цариградско шосе”

България Преди 11 часа

Държава и общината влязоха в задочен спор за парка на двореца "Врана"

Ръсел Бранд е обвинен в изнасилване

Ръсел Бранд е обвинен в изнасилване

Свят Преди 12 часа

Комикът, автор и актьор от „Get Him To The Greek“ отрича обвиненията, като казва, че връзките му са били „винаги по взаимно съгласие“

Тайните на успешния брак на Чарлз и Камила: Живеят разделени, но щастливи

Тайните на успешния брак на Чарлз и Камила: Живеят разделени, но щастливи

Любопитно Преди 12 часа

Двойката в момента се подготвя за пътуване до Италия, което ще съвпадне с 20-ата им годишнина от сватбата на 9 април