И зкуственият интелект (AI) е представян като неизбежното бъдеще в ежедневието на всеки човек. И една от големите му ползи е фактът, че много бързо обработва големи масиви от информация и може да даде подробни отговори и на най-сложните въпроси. Освен това може бързо да се учи и да усъвършенства способностите си. В действителност обаче напоследък сякаш се случва точно обратното.

Още от миналата година имаше съобщения, че популярни ботове като ChatGPT са развили „мързел“ или дори са станали „по-глупави“, допускайки елементарни грешки. След известни актуализации и подобрения на системата, казусът сякаш беше решен. Нови проучвания и отзиви на потребителите за AI услугите обаче показват, че оглупяването на технологията отново е проблем. И той може да има много опасни последици.

Новата услуга AI Overviews на Google например се оказа в центъра на множество критики за качеството на отговорите, които дава. Потребители показаха в социалните мрежи екранни снимки на различни отговори, които AI Overviews дава на разнообразни въпроси. И някои от тях са фрапиращи.

Бъдещето на Windows: AI, облаци и още AI

AI Overviews например твърди, че американски геодезисти препоръчват на хората всеки ден ядат по един малък камък, защото е полезен за храносмилането и има много витамини. Функцията също така се позовава на популярния медицински сайт WebMD, като твърди, че той препоръчва на хората да се „взират“ в Слънцето по 5 до 15 минути на ден или 30 минути „ако сте с по-тъмна кожа“, като това е полезно за здравето. Проблем има и при кулинарията: например съвет да се добави лепило към сос за пица.

Microsoft показа новия клас AI компютри с Copilot+

Google внедрява повече AI и в Android

Пред CNBC Google казва, че подобни грешки са рядкост и твърди, че много от примерите са манипулирани. Въпреки това компанията ще редактира някои от отговорите, а други въпроси ще бъдат филтрирани засега. В интервю за The Verge, изпълнителният директор на Google Сундар Пичай призна, че алгоритъмът има „халюцинации“ (генерирането на неверни „факти“), но и че това е проблем, по който се работи. Пичай призова да не се гледа с лошо око на технологията, защото допускането на грешки не означава, че не е полезна.

Проблемен програмист

Друга голяма полза на чатботовете, която те рекламират с охота, е способността им да пишат програмен код. Доста компании дори вече разчитат предимно на ChatGPT да е в ролята на програмист, а хората-програмисти са предимно редактори на кода и трябва да имат повече време да мислят по-големи идеи. Според проучване на университета Purdue обаче, 52% от отговорите на ChatGPT на програмистки въпроси са грешни, съобщава Futurism.

Учените са използвали 517 въпроса от популярната платформа Stack Overflow, като са анализирали отговорите на ChatGPT. В 52% от случаите в отговорите има погрешна информация. Също така 77% от отговорите на ChatGPT са по-дълги от тези на хората, а в 78% от тях има и повече несъответствия и противоречия спрямо отговорите на хората на същите въпроси.

Експертите са направили и лингвистичен анализ на 2000 произволни отговора на ChatGPT. Оказва се, че те са с по-официален и аналитичен тон с по-малко негативно настроение, т.е. по-малко емоционален. Програмистите като цяло харесват този тон повече, като съответно му се доверяват повече и има по-голяма вероятност да не забележат грешките.

Предупреждение и от ЕС

Проучване на Европейския надзорен орган по защита на данните също критикува OpenAI, че не успява да подобри качеството на информацията, която ChatGPT дава. Според регулатора, предприетите мерки от компанията не са достатъчни за спазване на принципа на точност на данните. Самият модел на работа на системата увеличава вероятността за пристрастни или измислени резултати, смятат експертите на ЕС.

AI разви политически възгледи и не е ясно защо

Какви са новите функции и алгоритъм за ChatGPT

Те отбелязват, че резултатите на ChatGPT имат по-голяма вероятност да бъдат възприети от потребителите като истина, независимо дали това е така или не. Съответно и отговорността на компаниите, които създават такива технологии, е още по-голяма. А Европейският регламент за защита на данните изисква от чатботовете да предоставят възможно най-точна информация, особено, когато става дума за реални факти, които са свързани с хора. Съответно фактът, че според Google AI Overviews, че Барак Обама е мюсюлманин, също ще предизвика недоволството на регулатора.

Как да се защитим?

Рисковете от това изкуственият интелект да генерира неверни отговори са пределно ясни. Но какво може да направи обикновеният потребител, за да се защити? Особено имайки предвид, че тези услуги тепърва ще навлизат в ежедневието и бизнеса, а за момента ИТ гигантите признават, че не могат да намерят решение на казуса, което да е достатъчно ефективно и трайно. Изглежда, че всички мерки за предотвратяване на грешни отговори дават временен ефект и след това алгоритмите отново показват признаци на „оглупяване“.

Според Крис Коленда, автор и консултант за стратегическо и лидерско развитие, „AI оглупява“ и трябва да избегнем „когнитивен разрив“. Той обяснява, че една от причините за „оглупяването“ на изкуствения интелект са самите потребители. Технологията се учи не само от данните, които има, но и от въпросите и реакциите на потребителите. Когато те задават глупави или подвеждащи въпроси, а мнозина правят това умишлено, за да объркат алгоритъма или да го накарат да каже нещо глупаво, той започва да възприема случващото се като факт и съответно адаптира цялото си поведение. AI се учи хората, а хората са далеч от перфектни.

AI влошава обслужването на клиентите

Изкуственият интелект е расист, но не го осъзнава

За да избегнат, или поне да намалят риска да попаднат в когнитивния разрив на AI и да бъдат объркани и подвеждани от невярна информация, Коленда препоръчва на хората няколко мерки. Една от тях е увеличаване на „когнитивното разнообразие“ във вътрешния кръг на човек. Това, че някой мисли различно, не означава, че греши. Или пък, че изглежда по различен начин, не означава, че мисли различно.

Коленда препоръчва да се търсят различни гледни точки и перспективи. Когато човек се изолира да използва и получава информация само от едно място, тогава изпада в когнитивен разрив с реалността.

Alphabet: AI е възможност, която идва веднъж в живота

Увеличаването на психическата увереност, също е важно. Коленда го казва в сферата на фирма, но работи и за личния живот на служителите: „Хората с психологическа увереност по-лесно идентифицират проблеми, предлагат свежи идеи и предприемат рискове за общото благо. Ако всичко във вашия свят винаги е страхотно, подгответе се за удар“, казва Коленда.

Прогнозата на Мъск за AI отново е повече от "луда"

Все повече студенти "пишат" курсовите си с AI

Не пропускайте най-важните новини - последвайте ни в Google News Showcase

Обратно в сайта X

ДОСТЪП ЗА ЛОГНАТИ ПОТРЕБИТЕЛИ За да пишете, оценявате или докладвате коментари, моля логнете се в профила си.

  1. Запомни ме
забравена парола Полетата маркирани с * са задължителни
Полето Потребителско име не трябва да е празно.
Полето E-mail не трябва да е празно.
Полето Парола не трябва да е празно.
Полето Повторете паролата не трябва да е празно.
  1. Декларирам, че съм се запознал с Общите условия за ползване на услугите на Нетинфо.
Полетата маркирани с * са задължителни
Снимката е илюстративна

Доверието между Русия и САЩ трябва да бъде възстановено, заяви съветник на Кремъл

Свят Преди 1 час

Президентът на САЩ Доналд Тръмп се обърна към Русия в опит да сложи край на тригодишната война в Украйна

,

Намалява броят на търсещите убежище в Австрия

Свят Преди 1 час

Подадените 4 644 молби сочат намаление от 33 процента в сравнение с първите три месеца на предходната година

о

Тежък трафик, тапи и катастрофи в последния от серията почивни дни

България Преди 2 часа

Пътуването по основните магистрали се превърна в изпитание

.

Александра Лашкова: От Ада до Стадионa

Любопитно Преди 3 часа

Талантливата актриса разказва за своя живот от Ада, през филм на Хичкок, та чак до Националния стадион

Тръмп нареди знамената на САЩ да бъдат спуснати наполовина в памет на папа Франциск

Тръмп нареди знамената на САЩ да бъдат спуснати наполовина в памет на папа Франциск

Свят Преди 3 часа

Той определи папа Франциск като “добър човек”

Израел обеща да даде „мощен отговор“ на нападенията на йеменските хути

Израел обеща да даде „мощен отговор“ на нападенията на йеменските хути

Свят Преди 3 часа

„Всяка атака срещу нас няма да остане без отговор"

Почивката на морето ще ни излезе по-солена тази година

Почивката на морето ще ни излезе по-солена тази година

България Преди 4 часа

Покачването на цените няма да е драстично, твърдят хотелиери

Нетаняху: Началникът на службата за сигурност се провали с гръм и трясък на 7 октомври

Нетаняху: Началникът на службата за сигурност се провали с гръм и трясък на 7 октомври

Свят Преди 4 часа

Бенямин Нетаняху се противопостави на началника на службата си за вътрешна сигурност Ронен Бар

,

Реакции от Западното полукълбо след кончината на папа Франциск

Свят Преди 5 часа

Редица лидери от Северна и Южна Америка изразиха своята скръб и изказаха съболезнования във връзка с кончината на папа Франциск

„Посланията му докосваха сърцата”: Католическата църква в България за папа Франциск

„Посланията му докосваха сърцата”: Католическата църква в България за папа Франциск

България Преди 6 часа

До последния си дъх той искаше да бъде близо до хората, коментира Ива Михайлова

.

Ватиканът отменя церемонията за обявяването на първия светец милениал заради смъртта на папата

Свят Преди 6 часа

Италианецът Карло Акутис, починал от левкемия през 2006 г.

Бомбоубежище в Одеса

Взривове отекнаха в Одеса, съобщи кметът на града Геннадий Труханов

Свят Преди 6 часа

Сирените бяха задействани в 15:29 часа

Наталия Киселова: В НС ще бъдат поставени въпросите с исканите имунитети на депутати

Наталия Киселова: В НС ще бъдат поставени въпросите с исканите имунитети на депутати

България Преди 7 часа

Сарафов изпрати писмо до Киселова относно имунитетите на шестима народни представители

<p>Иран:&nbsp;Отношенията с Русия никога преди не са били толкова близки и силни</p>

Ядрена програма на Техеран: Иран е готов да разшири тристранните преговори с Русия и Китай

Свят Преди 8 часа

Съвместната работа с Москва и Пекин е нещо необходимо, заяви иранският външен министър Абас Арагчи