Може ли изкуственият интелект да бъде „отровен“
Източник: iStock/GettyImages
2

И зкуственият интелект (AI) е много популярен в момента и изглежда сякаш е нова, атрактивна технология. Всъщност, това са предимно резултатите на години труд в обучаването и усъвършенстването на досегашните проекти.

Очакванията към AI са много големи. Толкова големи, че да преобърнат и преоткрият цели индустрии и да променят начина на живот на цялото човечество. Това е и голяма отговорност, която логично повдига въпроса за доверието в AI. Как може да сме сигурни, че тези алгоритми ще взимат правилните решения? Може ли да им се повлияе?

И макар да има множество и различни умни алгоритми, които се конкурират помежду си, те имат и много общо помежду си. Най-вече фактът, че практически всички алгоритми разчитат на някаква база данни с информация за конкретната тема, по която са обучавани. AI за разпознаване на обекти в снимки например се нуждае от кадри, за да ги анализира и да се научи как да различава обектите. AI за генериране на текст, както е популярният в момента ChatGPT, има нужда от база данни, която има разнообразна информация, която да използва като отправна точка, за да създава своите идеи.

Именно това може да се окаже слабо звено на AI като цяло – възможността да бъде „отровен“ чрез компрометиране не са алгоритъма, а на данните, с които се обучава. Това предупреждават учени от университета ETCH Zurich, които са направили проучване заедно с експерти от Google, Nvidia и Robust Intelligence, съобщава онлайн изданието IEEE Spectrum.

CAIDP: GPT-4 е опасен и трябва да бъде спрян

Те са открили поне два метода за „отравяне“ на базите данни, което може да повлияе пряко на развитието на изкуствения интелект, който използва тази информация. Добрата новина е, че няма информация методите да са познати на хакери и да са били прилагани.

Лошата е, че атаките са много лесни за реализиране и не изискват големи усилия за реализация. Не е нужно да се компрометира голяма част от базата, за да се изкриви обучението и съответно разбирането на алгоритъма. Един от методите е струвал само 60 долара, за да се „отрови“ 0.01% от две бази данни. Такива атаки може да манипулират AI в различни посоки – например да взима сексистки или расистки решения, да развие други тези и мнения, които са в противоречие с основната му цел и т.н.

Бил Гейтс: Започна ерата на изкуствения интелект

Мъск иска спиране на опитите с изкуствен интелект

Възможно е чрез тези методи и да се внедри „задна врата“ за по-късен достъп до модела и управление на поведението му в последствие. Колкото по-сложен е един алгоритъм и колкото по-голяма цел има, от толкова по-огромна база данни има нужда, за да се обучи. Това пък прави откриването на „отровена“ информация вътре в нея още по-трудно.

Учените препоръчват да се разработят методи за допълнителна защита на базите данни от манипулации. Някои рисковете трудно могат да се предвидят. Например чатботовете често използват събрана от интернет информация. В нея неизменно ще попаднат и фалшиви новини или дори съзнателно компрометирани интернет страници и публикации с цел да подведат AI. Трудно може да се направи верификация на милиони публикации.

ChatGPT застрашава 19% от професиите в САЩ

Въпреки това си струва да се помисли за решения, казват учените. В противен случай има рискове както от гледна точка на по-опасни манипулации, така и чисто търговски опити за подвеждане на изкуствен интелект да предпочита даден бранд повече от друг и съответно да го препоръчва при определени въпрос, казва Флориан Трамер от ETH Zurich.

Наследникът на ChatGPT е още по-умен и "визуален"

Китайският отговор на ChatGPT се казва ERNIE Bot

Следете ни навсякъде и по всяко време с мобилното приложение на Vesti.bg. Можете да го изтеглите от Google Play и AppStore.

За още любопитно съдържание от Vesti.bg последвайте страницата ни в Instagram.

Коментари 2
Кирилица:
Фонетична
Имате 2000 позволени символа

* Моля, коментирайте конкретната статия и използвайте кирилица! Не се толерират мнения с обидно или нецензурно съдържание, на верска или етническа основа, както и написани само с главни букви!

2 коментара
 
Обратно в сайта X

ДОСТЪП ЗА ЛОГНАТИ ПОТРЕБИТЕЛИ За да пишете, оценявате или докладвате коментари, моля логнете се в профила си.

  1. Запомни ме
забравена парола Полетата маркирани с * са задължителни
Полето Потребителско име не трябва да е празно.
Полето E-mail не трябва да е празно.
Полето Парола не трябва да е празно.
Полето Повторете паролата не трябва да е празно.
  1. Декларирам, че съм се запознал с Общите условия за ползване на услугите на Нетинфо.
Полетата маркирани с * са задължителни
Пускат движението по част от бул. "Сливница" в София

Пускат движението по част от бул. "Сливница" в София

България Преди 23 минути

Продължава работа по реконструкцията на ул.“Опълченска“ в участъка между бул.“Сливница“ и бул.“Тодор Александров“

Изслушват Екатерина Захариева в Брюксел

Изслушват Екатерина Захариева в Брюксел

Свят Преди 37 минути

За да бъде одобрена кандидатурата ѝ, тя трябва да получи 2/3 от гласовете

,

Риба-призрак е забелязана 20 години, след като е мислена за изчезнала

Любопитно Преди 1 час

Първоначалното изчезване на рибата все още поражда по-голяма загриженост за бъдещето на други мигриращи видове

Изкуствен интелект ще ни разкрие за какво си говорят прасетата

Изкуствен интелект ще ни разкрие за какво си говорят прасетата

Любопитно Преди 1 час

Разработен е алгоритъм с AI, който може да интерпретира какво казват животните

Apple Vision Pro

Apple обмисля да направи умни очила, но под условие

Технологии Преди 1 час

Компанията е започнала проучване на продуктите, които вече са на пазара

Зеленски: Русия разположи 11 000 севернокорейски войници

Зеленски: Русия разположи 11 000 севернокорейски войници

Свят Преди 8 часа

Русия се опитва да изгони украинските сили от тази граничеща с Украйна територия

Три жертви след челен удар на пътя София - Варна

Три жертви след челен удар на пътя София - Варна

България Преди 9 часа

Движението се осъществява в едната лента в посока Варна

Разкриха условията на Русия за мир в Украйна

Разкриха условията на Русия за мир в Украйна

Свят Преди 9 часа

Общият обем на документа е шест страници основен договор и четири страници приложения

Русия е ядоса, обяви изборите в Молдова за най-недемократичните

Русия е ядоса, обяви изборите в Молдова за най-недемократичните

Свят Преди 10 часа

Захарова обвини молдовските власти в "многобройни нарушения и фалшификации"

ЕК: Рано е да се обсъжда спиране на санкциите срещу производителите на автомобили

ЕК: Рано е да се обсъжда спиране на санкциите срещу производителите на автомобили

Свят Преди 10 часа

Повечето европейски производители на автомобили призоваха за спешни мерки за помощ

Отварят за движение северното платно на бул. „Сливница“ при “Опълченска“

Отварят за движение северното платно на бул. „Сливница“ при “Опълченска“

България Преди 11 часа

Възстановява се движението по пътните платна на мостовото съоръжение

„Възраждане” подписва декларацията на ПП-ДБ срещу гаранции

„Възраждане” подписва декларацията на ПП-ДБ срещу гаранции

България Преди 12 часа

От партията са изпратили на ПП-ДБ проект на решение за задължаване на Министерския съвет

ДАНС и МВР докладваха за изборните нарушения

ДАНС и МВР докладваха за изборните нарушения

България Преди 12 часа

От МВР посочват, че са били предприети всички необходими мерки

<p>Президентът обяви кога ще свика новия парламент</p>

Президентът обяви кога ще свика новото Народно събрание

България Преди 12 часа

Радев заяви, че предоставя допълнително време на партиите за разговори

„Гунди - легенда за любовта“ събори 14-годишен рекорд  само за първите си 17 дни на екран

„Гунди - легенда за любовта“ събори 14-годишен рекорд само за първите си 17 дни на екран

Любопитно Преди 13 часа

Филмът на Димитър Димитров вече официално е най-гледаният български филм в новата история на родното кино

ПП-ДБ сезира Конституционния съд за изборите

ПП-ДБ сезира Конституционния съд за изборите

България Преди 13 часа

Атанасов: Внасяме конституционно искане, така че всички секции да бъдат повторно преброени