Már a Google is felhívta a figyelmet arra, hogy államilag támogatott bűnözők alkalmazzák a mesterséges intelligenciát.

Bár a biztonsági intézkedések folyamatosan fejlődnek, a hackerek továbbra is leleményesen kutatják a gyenge pontokat, és kihasználják a mesterséges intelligenciában rejlő potenciált. Noha nem közvetlenül támadások végrehajtására alkalmazzák az MI-t, mégis rendkívül hasznos eszközként szolgálhat a támadások előkészítésében és megtervezésében.
Állami támogatással működő hackercsoportok tesztelik a Google Gemini chatbotját, hogy fejlesszék támadási stratégiáikat. A Bleeping Computer jelentése szerint, amely a Google fenyegetéselemző csoportjának (GTIG) információira alapoz, ezek a csoportok a chatbotot például potenciálisan támadható infrastruktúrák azonosítására és célpontok felderítésére is alkalmazzák.
A Google szakértői felfedezték azokat a kormányzati hátterű, tartós fenyegetésekkel foglalkozó csoportokat (APT), amelyek a Gemini MI-t egyfajta termelékenység-javító eszközként alkalmazzák. Érdekes módon ezek a csoportok nem mesterséges intelligencia alapú kibertámadások kidolgozására vagy megvalósítására használják a technológiát.
Ugyanakkor fontos megemlíteni, hogy ezeknek az MI-képességeknek a kiaknázása vegyes eredményekkel bír. Elsősorban a támadók felkészülésének idejét képesek jelentősen lerövidíteni.
A Google több mint 20 országból észlelte azt, hogy a különböző APT-csoportok a Geminit használják műveleteik bizonyos aspektusaihoz. Leginkább Kínából és Indiából.
A legjellemzőbb helyzetek közé tartozik a kódolási feladatokhoz nyújtott támogatás, a nyilvánosan elérhető sebezhetőségek azonosítása, az egyes technológiák alapos ellenőrzése, valamint a célpontokkal kapcsolatos információk feltárása – persze ez csak néhány példa a sok közül.
A Google legfrissebb információi szerint orosz, kínai, iráni és észak-koreai csoportok egyaránt kísérleteztek a Gemini nevű eszközzel, hogy felfedezzék a benne rejlő lehetőségeket. A GTIG jelentése alapján minden ország a saját politikai érdekeinek megfelelően igyekezett információkat gyűjteni. Kína például az amerikai katonai és kiberbiztonsági területen végzett felméréseket, míg Észak-Koreában a hamis személyazonosságok használatával próbáltak munkalehetőségeket találni nyugati vállalatoknál.
Gyakran előfordul, hogy a rosszindulatú szereplők próbálkozásai kudarcot vallanak, amikor a Geminihez fordulnak. Akár trükkökkel, akár közvetett megközelítésekkel próbálnak manipulálni, a program képes azonnal észlelni a potenciálisan káros aktivitásokat, és ennek megfelelően nem reagál. Nemrégiben napvilágot látott, hogy az új kínai DeepSeek milyen gyenge teljesítményt nyújt ezen a téren.