Експеримент: Трудно ли е да се създаде дийпфейк

Н е минава седмица, без да разберем за ново фалшиво видео, което обикаля социалните мрежи. Политици, артисти, журналисти рекламират какво ли не, без дори да подозират. Лесно ли е да се направи едно такова видео и колко струва?

Скорошен случай от Гърция разбуни духовете - 14-годишна отлична ученичка беше замесена в скандал с порнографско видео.

"Учителите звънят на семейството и казват: „Дъщеря ви е замесена в секс скандал. Нейни голи видеа обикалят чатовете на учениците. Момичето беше страшно притеснено, трябваше да се обяснява и оправдава, че това не е истина. Дори приятелите ѝ не бяха на нейна страна. Повярвали са, че това видео е истинско. А всъщност някой е взел снимките ѝ от Instagram и ги е монтирал по много достоверен начин в порнографско видео. Най-притеснителното е, че когато разследвахме докрай случая, разбрахме, че извършителят е неин съученик, който просто искал да ѝ навреди, да изпъкне пред останалите с това, че е съсипал репутацията на едно умно, старателно момиче с добри оценки", заяви Кели Йоану, изпълнителен директор в Институт по киберсигурност.

Това е 10-ият такъв случай в Гърция от началото на годината. След него идва въпросът: щом ученик успява да направи едно фалшиво видео, което да изглежда като истинско, колко лесна е тази задача. Екип на NOVA направи опит да създаде такова видео с гласовете и образите на водещите на предаването. За целта избра експерта по киберсигурност Симеон Нгуен, който да монтира откъси от видеа с Мира Иванова и Виктор Николаев. Той споделя, че ще са му нужни не повече от два часа. След по-малко от час вече чуваме гласа на Виктор Николаев.

Голям ръст на фалшивите клипове със знаменитости

"Ако реалният запис не е достатъчен, може да се създадат допълнителни, с различни вариации в отговорите и да пуснеш, каквото ти трябва", обясни Нгуен.

Той сподели интересна ситуация. "Изпълнителен директор получава обаждане от фирма партньор, откъдето го молят да преведе пари към друга компания, към друга банкова сметка. Това му коства 230 000 евро. Честно казано, всеки може да го направи за радост или нещастие, стига да има 20 долара, които може да отдели", посочи той.

"Само трябва да можеш да влезеш в интернет. Няма толкова специфичен глас, който да не може да бъде репликиран. Подкастите, където човек се изказва по-дълго, са перфектни", допълни експертът.

В ГДБОП все по-често получават сигнали за дийпфейк видеа. "През последните месеци случаите зачестиха. Има няколко интернет сайта, които срещу заплащане предлагат подобна възможност", обясни Владимир Димитров от отдел „Киберсигурност”.

Изкуственият интелект и дезинформацията: Танцувал ли е Зеленски бели денс

Или иначе казано за по-малко от 40 лева – можеш да си позволиш да бъдеш и Мира Иванова, и Виктор Николаев, и всеки, който има достатъчно видеа в интернет.

Според Симеон Нгуен такива софтуери към момента са законни. Все още няма регулации, които да ги забраняват, но Европейският съюз работи над това.

Експертът изпробва друг софтуер, за да обработи гласа на Мира Иванова. "Каквото напишеш, това може да го накараш да каже – без значение колко е брутално, нецензурно, уронващо репутацията. Започват да се появяват и софтуери, които се опитват да засичат дали такива видео- или аудио файлове са фалшиви. Те все още са в много начална фаза и не е 100% сигурно дали ще успеят да се справят с видеата", обясни Нгуен.

След качване в такава система обаче тя не засича кадрите като фалшиви. "Технологията не е перфектна все още и на моменти се вижда как движението на устните не е синхронизирано с аудиото – има някои неточности, мигания. Критичното мислене е най-доброто, което можем да приложим. Ако на някого много спешно му трябва нещо да се случи на момента и е подозрително, по-добре да провери втори път и да не се доверява просто ей така на съмнителни обаждания", призова той.

ИТ гигантите ще слагат маркер в AI съдържанието

И ако тук технологията все още има накъде да се развива и има ясни белези, които подсказват, че видеото е фалшиво, в Гърция дори киберекспертите се притесняват - все по-трудно е да се различи неистинско от реално видео.

Така гръцки "ало" измамници успяват да излъжат една майка, че чува собствения си син по телефона. "Отиват при нея и казват: "Трябва да дадеш всичките си спестени пари, защото синът ти е пострадал в катастрофа, в болница е и трябва да му се направи спешна операция". Жената не им повярвала в началото. Но те казали: "Ето, сега ще му звъннем". Звъннали на някого, който просто пускал преправени записи с глас, досущ като този на момчето. Той бил взет от негови видеа в социалните мрежи. Жената наистина повярвала, че това е нейният син и дала всичките си пари - около 5000 евро", разказа гръцкият киберексперт Кели Йоану.

В повечето случаи в Гърция извършителите на дийпфейк измами още са на свобода, защото огромна част от тях са ученици и законът ги защитава. А децата и родителите, които са станали жертви на тази технология, казват, че живеят в нова реалност. Вече не вярват нито на ушите, нито на очите си.

Не пропускайте най-важните новини - последвайте ни в Google News Showcase