Как да разпознаваме дийпфейк ИИ-генерирани изображения

273
Добави коментар

Използването на ИИ за фалшификация на изображения и видеа и създаване на т.нар дийпфейк материали става все по-съществен проблем в онлайн пространството. Измамни снимки, видеа или аудио, които са създадени с користна цел, стават все повече, в резултат от подобряването на ИИ моделите и е нужно да знаем най-важното по темата, за да можем да ги различаваме и да не се подвеждаме.

Някои снимки, които срещаме всеки ден и подозираме, че може би са създадени с ИИ, са с цел забавление и дори да не знаем, че не са истински, от това не следват нежелани последици. Но в случая на дийпфейк изображенията, целта е да ни заблудят и това може да бъде използвано от злонамерени сили за оформяне на общественото мнение в предстоящите важни изброи, които се провеждат по целия свят тази година.

Ето как да се научим да различаваме дийпфейк материали.

В началото на технологията беше лесно – шест пръста, три-четири ръце, очи, гледащи в различни посоки, очила, които са част от лицето, подозрително разположени крака, немигащи и недишащи хора във видеата и др. ИИ-моделите обаче се обучиха и изображенията им стават все по-реалистични.

Едно от първите неща, които трябва да огледаме във видео или снимка, за която подозираме, че е фейк, е дали сенките и светлината се разминават с реално възможното. Ако централният обект изглежда добре, може в задния план да има несъответствия, които да ни насочат.

Следващото нещо са лицата, тъй като сред най-често използваните методи за фалшификация е подмяната на лица. Експертите съветват да оглеждаме мястото където лицето се свързва с шията и като цяло „краищата“ на лицето, за несъответствия в сенките и тона на кожата, както и размазване в тези зони, което значи, че лицето е допълнително „смесено“.

При видеата, можем да сравним движението на устните за съвпадение с изговаряните думи. Дори при разминаване на аудио и видео, в истински заснет материал трябва да има съвпадение между движението на устните и звуците.

Зъбите също са индикатор за дийпфейк. Те могат да са размазани, с несъответстващи сенки или не особено реалистични. Според експерти, за момента алгоритмите не могат да създават отделни зъби, така че в ИИ-изображения, зъбите биха изглеждали като едно цяло, а не като индивидуални обекти.

Контекстът също е важен. Реалистично ли е това, което виждаме? В съгласие ли е с останалото, което фалшифицираният образ обичайно представя?

Ако видим публична личност да върши особено преувеличени и нереалистични или излизащи извън личностните особености действия, вероятно е дийпфейк. Например популярните снимки на папа Франциск с дами със свободна професия и бутилки алкохол изглеждат съвсем реално, докато не се замислим за контекста и възможността папата да върши такива неща и нито една световна медия да не ги отрази.

Не на последно място е и използване на ИИ, за разкриване на дийпфейк, създаден от ИИ.

„Майкрософт“ разработва подобен инструмент, който може да анализира снимки и видеа и да предполага доколко те са реални. Други компании също започват да използват такива инструменти като начин на противодействие на фалшификациите.

Някои от тези инструменти обаче не са публично достъпни, защото разработчиците не желаят да дават на фалшификаторите възможност да се запознаят отблизо с тях, което би ги обезсмислило в този начален етап.

За съжаление, с напредъка на технологията и добре известната склонност на човечеството да намира както много полезни начини за употреба на новите технологии, така и много вредни, експертите препоръчват да разчитаме на комбинация от методи, за да се предпазим от манипулация чрез фейк.

Не трябва да забравяме, че критичното мислене и познаване на контекста са основният начин да не допуснем фейк материали да оформят убежденията ни. От друга страна, самите ние не сме съвършени, така че не трябва да смятаме, че можем да се справим сами с тази задача или че никога няма да измамят точно нас. Решението е комбинация от познаване на контекста и събитията, дигитални умения и инструменти, създадени за тази цел. И едно на ум за съществуването на такива материали.

Източник: AP News