University of Texas at Arlington
Alat protiv korištenja AI chatbotova za phishing
Novi alat omogućuje AI chatbotovim da detektiraju upite koji bi se mogli koristiti za izradu web stranica za phishing prijevare.
Tim istraživača sa Sveučilišta Teksas u Arlingtonu razvio je softver koji sprječava chatbotove umjetne inteligencije (AI) poput ChatGPT-a u stvaranju web stranica za krađu identiteta, što izaziva sve veću zabrinutost jer kibernetički kriminalci koriste tehnologiju za osmišljavanje prijevara.
Softver koji su kreirali Shirin Nilizadeh, docentica na Odsjeku za računalne znanosti i inženjerstvo, i njezini doktorandi Sayak Saha Roy i Poojitha Thota, omogućuje AI chatbotovima da bolje detektiraju i odbiju upite s uputama koje unose korisnici, a koji bi se mogli koristiti za stvaranje phishing web stranica.
Trenutačno, AI chatbotovi imaju neke ugrađene mogućnosti otkrivanja, ali dr. Nilizadeh je rekla da je njezin tim pronašao rupe u sustavu pomoću kojih hakeri mogu lako zaobići zaštitu i iskoristiti chatbotove za stvaranje stranica koje bi se mogle koristiti za napade.
S pojavom AI chatbotova, pokretanje online prijevara postalo je vrlo dostupno, čak i za napadače s minimalnim tehničkim vještinama. Sada za izradu web stranice nije potrebna nikakva stručnost u kodiranju, budući da je umjetna inteligencija može izraditi gotovo trenutno.
Kako bi razvili svoj alat, istraživači su prvo identificirali različite upite s uputama koje bi se mogle koristiti za stvaranje phishing web stranica. Koristeći to znanje, uspješno su uvježbali svoj softver da prepozna i reagira na specifične ključne riječi i uzorke, poboljšavajući njegovu sposobnost otkrivanja i blokiranja takvih zlonamjernih upita prije nego ih chatbotovi izvrše.
Istraživači su se obratili velikim tehnološkim tvrtkama koje pokreću chatbotove, uključujući Google i OpenAI, s ciljem integracije svojih otkrića u šire sigurnosne strategije umjetne inteligencije.
"Stvarno sam sretan što sam mogao raditi na ovom važnom istraživanju", dodao je Thota. "Također se veselim što ću ovaj rad podijeliti s našim kolegama u prostoru kibernetičke sigurnosti i pronaći načine za daljnji rad."
Svoja otkrića istraživači su predstavili na 2024 IEEE Symposium on Security and Privacy konferenciji a njihov rad možete pronaći na ovoj poveznici.
Startup Sveučilišta u Bathu stvara održivu energiju baterijom koja se sama puni kada se stavi u tlo.
Komičari su koristili AI za smišljanje šala i stand-up nastupa i potom ocijenili rezultate.
Učitavam komentare ...