Британски официални лица предупреждават, че интегрирането на софтуер, управляван от ИИ в бизнесите, може да доведе до нежелани резултати или до пробив в сигурността на компаниите.
От Британския национален център по киберсигурност казват в серия от статии, че експертите още не са изследвали пълния потенциал на големите езикови модели, които днес набират популярност и все още не могат да прогнозират как ще засегнат сигурността.
От центъра смятат, че ако такъв софтуер бъде свързан с определени елементи от бизнеса, могат да се генерират команди, които да заобиколят вградените защити. Например ако банка допусне чатбот да участва в транзакции с клиенти, той може да бъде накаран да извърши незаконни действия чрез правилно структуриране на командите към него.
„Организациите, които предлага услуги и ползват големи езикови модели като ChatGPT, трябва да внимават да не би да използват бета-версии на кода. Те не трябва да допускат чатбота да участва в транзакции от страна на клиентите, както не допускат това да се случва с експериментален софтуер.“ казват експерти по киберсигурност.
Много компании, предлагащи услуги, интегрират големите езикови модели в работата си, а служителите ги ползват за да им помагат с някои лесни, но времеемки задачи, като писане на имейли, обобщения на документи или търсене на информация.
В някои компании ИИ е изрично забранен за ползване, а според експерти, той може да доведе до „катастрофални последици“, ако собствениците на бизнеси не въведат необходимите защити. Вместо да се впускат веднага в експлоатация на новата технология, те трябва да обмислят внимателно ползите и вредите от внедряването на такъв софтуер, за да са сигурни, че бизнесът им е защитен.
