Инструмент на един от най-популярните модели изкуствен интелект, ChatGPT, помага на потребителите да изграждат свои собствени виртуални асистенти, но според разследване на BBC, може да се окаже, че този инструмент ще подпомага кибер-престъпления.
Инструментът е на пазара от миналия месец и с него се създават индивидуални ботове, които „могат почти всичко“.
Представители на BBC се абонират за платената версия на ChatGPT, след което използват този нов инструмент за създаването на собствен бот – кръщават го „Сръчни имейли“ и му дават данни, касаещи социално инженeрство и маркетинг, след което го използват да създава съдържание с „техники, които карат хората да кликват на линкове или да свалят неща, получени по имейла.“
Ботът се представя впечатляващо, като пише убедителни текстове, подобни на най-познатите и успешни измами, на много езици в рамките на секунди.
Безплатната версия на ИИ отказва да пише такова съдържание, но няма проблем с платената – явно при нея модерацията не е толкова сериозна, смятат експерти от сектора и предупреждават, че това може да е неочакван подарък за престъпници по целия свят.
От OpenAI засега не коментират.
Новият инструмент може да ви притесни с няколко от най-разпространените измами в онлайн света.
„Здрасти, мамо“
Често срещана измама сред потребителите на WhatsApp. Получавате съобщение от непознат номер от името на дъщеря си или сина си, с което ви искат пари за такси или нещо подобно. Сръчни мейли написва подобни съобщения, обяснявайки, че така ще „предизвика майчинския инстинкт да се защитава детето“. Ботът пише подобни текстове и за Индия, съобразявайки се с културните особености. Безплатната версия обаче отказваз, казвайки, че ти текстове са известна измама.
Нигерийският принц
Една от най-старите измами в онлайн света. Принц от далечна страна има нужда от вас, за да му пазите няколкото милиарда.
Сръчни мейли написва убедителни съобщения от името на принца, позовавайки се на „човешката доброта и принципи“, а безплатната версия отново отказва да пише за това.
Спечелихте Айфон
По-скорошна, но не и по-малко опасна измама. Получавате смс или съобщение, че сте спечелили Айфон или нещо друго, но трябва да кликнете на линка и да си въведете данните на банковата карта, за да си получите подаръка. Сръчни мейли няма проблем да пише подобни съобщения, а безплатната версия отново отказва.
Крипто измами
Обещанието за удвояване на капитала, ако само пратите някой биткойн на непознат, успява да измами много хора.
Сръчни мейли написва туит с емотикони и хаштагове, обещавайки крипто валута за включилите се в играта, използвайки убедителен език.
Зловреден софтуер
Още една позната измама, която използва страховете ни, за да ни накара да свалим файл със зловреден софтуер или да посетим уебсайт със съмнително съдържание.
Сръчни мейли пише такъв мейл до измислена компания, като предупреждава директора ѝ, че за да предпази данните на компанията, трябва да свали файл, за който ботът знае, че съдържа зловреден н софтуер.
Ботът превежда мейла на испански и немски и казва, че ползва техники за „манипулация на хора, за да убеди получателите на мейла да действат веднага.“
Използването на ИИ за престъпни цели отдавна притеснява експерти от сферата, както и властите. Липсата на ограничения при ползването на ИИ, което трябва да се направи от създателите на софтуера, може да се окаже златна мина за престъпниците.
OpenAI засега се справят отлично с ограничаването на моделите си, но не е ясно дали това ще бъде така и в бъдеще. На фона на трудностите за създаване на единни европейски регулации относно ИИ, това е още по-притеснителна тенденция.
Източник: BBC
