Може ли изкуственият интелект да бъде „отровен“
Източник: iStock/GettyImages
2

И зкуственият интелект (AI) е много популярен в момента и изглежда сякаш е нова, атрактивна технология. Всъщност, това са предимно резултатите на години труд в обучаването и усъвършенстването на досегашните проекти.

Очакванията към AI са много големи. Толкова големи, че да преобърнат и преоткрият цели индустрии и да променят начина на живот на цялото човечество. Това е и голяма отговорност, която логично повдига въпроса за доверието в AI. Как може да сме сигурни, че тези алгоритми ще взимат правилните решения? Може ли да им се повлияе?

И макар да има множество и различни умни алгоритми, които се конкурират помежду си, те имат и много общо помежду си. Най-вече фактът, че практически всички алгоритми разчитат на някаква база данни с информация за конкретната тема, по която са обучавани. AI за разпознаване на обекти в снимки например се нуждае от кадри, за да ги анализира и да се научи как да различава обектите. AI за генериране на текст, както е популярният в момента ChatGPT, има нужда от база данни, която има разнообразна информация, която да използва като отправна точка, за да създава своите идеи.

Именно това може да се окаже слабо звено на AI като цяло – възможността да бъде „отровен“ чрез компрометиране не са алгоритъма, а на данните, с които се обучава. Това предупреждават учени от университета ETCH Zurich, които са направили проучване заедно с експерти от Google, Nvidia и Robust Intelligence, съобщава онлайн изданието IEEE Spectrum.

CAIDP: GPT-4 е опасен и трябва да бъде спрян

Те са открили поне два метода за „отравяне“ на базите данни, което може да повлияе пряко на развитието на изкуствения интелект, който използва тази информация. Добрата новина е, че няма информация методите да са познати на хакери и да са били прилагани.

Лошата е, че атаките са много лесни за реализиране и не изискват големи усилия за реализация. Не е нужно да се компрометира голяма част от базата, за да се изкриви обучението и съответно разбирането на алгоритъма. Един от методите е струвал само 60 долара, за да се „отрови“ 0.01% от две бази данни. Такива атаки може да манипулират AI в различни посоки – например да взима сексистки или расистки решения, да развие други тези и мнения, които са в противоречие с основната му цел и т.н.

Бил Гейтс: Започна ерата на изкуствения интелект

Мъск иска спиране на опитите с изкуствен интелект

Възможно е чрез тези методи и да се внедри „задна врата“ за по-късен достъп до модела и управление на поведението му в последствие. Колкото по-сложен е един алгоритъм и колкото по-голяма цел има, от толкова по-огромна база данни има нужда, за да се обучи. Това пък прави откриването на „отровена“ информация вътре в нея още по-трудно.

Учените препоръчват да се разработят методи за допълнителна защита на базите данни от манипулации. Някои рисковете трудно могат да се предвидят. Например чатботовете често използват събрана от интернет информация. В нея неизменно ще попаднат и фалшиви новини или дори съзнателно компрометирани интернет страници и публикации с цел да подведат AI. Трудно може да се направи верификация на милиони публикации.

ChatGPT застрашава 19% от професиите в САЩ

Въпреки това си струва да се помисли за решения, казват учените. В противен случай има рискове както от гледна точка на по-опасни манипулации, така и чисто търговски опити за подвеждане на изкуствен интелект да предпочита даден бранд повече от друг и съответно да го препоръчва при определени въпрос, казва Флориан Трамер от ETH Zurich.

Наследникът на ChatGPT е още по-умен и "визуален"

Китайският отговор на ChatGPT се казва ERNIE Bot

Следете ни навсякъде и по всяко време с мобилното приложение на Vesti.bg. Можете да го изтеглите от Google Play и AppStore.

За още любопитно съдържание от Vesti.bg последвайте страницата ни в Instagram.

Коментари 2
Кирилица:
Фонетична
Имате 2000 позволени символа

* Моля, коментирайте конкретната статия и използвайте кирилица! Не се толерират мнения с обидно или нецензурно съдържание, на верска или етническа основа, както и написани само с главни букви!

2 коментара
 
Обратно в сайта X

ДОСТЪП ЗА ЛОГНАТИ ПОТРЕБИТЕЛИ За да пишете, оценявате или докладвате коментари, моля логнете се в профила си.

  1. Запомни ме
забравена парола Полетата маркирани с * са задължителни
Полето Потребителско име не трябва да е празно.
Полето E-mail не трябва да е празно.
Полето Парола не трябва да е празно.
Полето Повторете паролата не трябва да е празно.
  1. Декларирам, че съм се запознал с Общите условия за ползване на услугите на Нетинфо.
Полетата маркирани с * са задължителни
Силните изпращат двама от своите на елиминации в “Игри на волята”

Силните изпращат двама от своите на елиминации в “Игри на волята”

Любопитно Преди 3 часа

Анджела и Силвия ще се изправят срещу Малвина и Магдалена от Храбрите утре вечер

Румъния подписа със САЩ за купуване на изтребители F-35

Румъния подписа със САЩ за купуване на изтребители F-35

Свят Преди 3 часа

Румъния планира да "пенсионира" F-16 през 2040 г.

Посолството на Украйна награди и Бойко Борисов и Кирил Петков

Посолството на Украйна награди и Бойко Борисов и Кирил Петков

България Преди 6 часа

Отличията са от Върховната рада на Украйна

Последни номинации очи в очи в Big Brother тази вечер

Последни номинации очи в очи в Big Brother тази вечер

Любопитно Преди 6 часа

Зрителите подкрепят фаворите си в приложението на NOVA PLAY

САЩ отхвърлиха заповедта за арест на Нетаняху

САЩ отхвърлиха заповедта за арест на Нетаняху

Свят Преди 7 часа

САЩ: Дълбоко сме обезпокоени от бързината, с която прокурорът е поискал заповед за арест

<p>КС образува дело по искане на президента</p>

Конституционният съд образува дело по искане на президента

България Преди 7 часа

КС ще се произнесе за втори път по тези въпроси

Съдът отложи делото срещу Марин Димитров

Съдът отложи делото срещу Марин Димитров

България Преди 8 часа

Съдът назначи и медицинска експертиза, която да установи колко сериозно е положението на Димитров

ГЕРБ-СДС в СОС поиска оставката на Цветомир Петров

ГЕРБ-СДС в СОС поиска оставката на Цветомир Петров

България Преди 9 часа

Зам.-председателят на СОС Ваня Тагарева припомни, че Петров е бил избран с гласовете на ГЕРБ-СДС

Евгений Иванов: Не трябва да мълчим, трябва да бъдем обединени

Евгений Иванов: Не трябва да мълчим, трябва да бъдем обединени

Любопитно Преди 9 часа

Българският и международен бизнес и гражданско общество заедно за по-добра среда

Почина бившият министър от кабинета на Блеър Джон Прескот

Почина бившият министър от кабинета на Блеър Джон Прескот

Свят Преди 10 часа

Прескот бе един от най-колоритните министри в кабинета на Блеър

Русия заплаши с глобална катастрофа и ядрена война

Русия заплаши с глобална катастрофа и ядрена война

Свят Преди 10 часа

Русия има списък с приоритетни цели за потенциално унищожаване

Нападнаха къщата на Жерар Пике в Каталуния (ВИДЕО)

Нападнаха къщата на Жерар Пике в Каталуния (ВИДЕО)

Свят Преди 10 часа

Домът му беше надраскан с надписи от активисти на лявата младежка организация Arran

Църквата "Свети Петър" в Люцерн

Дигитален Исус изповядва богомолци в Швейцария

Любопитно Преди 10 часа

Поне две трети от хората, които са говорили с дигиталния Исус, излизайки от изповедалнята споделят, че са имали „духовно“ преживяване

Морски съревнования решават съдбата на племената в “Игри на волята”

Морски съревнования решават съдбата на племената в “Игри на волята”

Любопитно Преди 11 часа

Ще успеят ли Храбрите да се спасят от сигурни елиминации?

<p>Зеленски разкри, че нов тип ракета е ударила Украйна</p>

Зеленски: Русия е използвала "нов тип" ракета, която има "характеристики на междуконтинентална балистична ракета"

Свят Преди 11 часа

„Днес нашият луд съсед за пореден път показа какво представлява в действителност и как презира достойнството, свободата и човешкия живот като цяло“, заяви Зеленски в изявление

Унгария ще разположи система за ПВО край Украйна

Унгария ще разположи система за ПВО край Украйна

Свят Преди 11 часа

Будапеща: Все още вярваме, че възможно най-скоро ще има мир чрез дипломация