A deepfake-ekkel szemben fejlesztett díjnyertes megoldást a BME VIK

A BME VIK Automatizálási és Alkalmazott Informatikai Tanszéke (AUT) és ipari partnere, a TC&C közös, a mesterséges intelligencia védelmében született kutatás-fejlesztési projektje nyáron nemzetközi elismerést kapott. Az élő videók meghamisítását kiszűrő technológia még nincs a piacon, mégis elnyerte a Frost & Sullivan Global New Product Innovation rangos nemzetközi díjat.

A legkifinomultabb online átverés ellen is jól működő rendszer a valós idejű deepfake-felismerés területén hozott kimagasló eredményt, köszönhetően a BME kutatóinak. A BME VIK AUT ipari partnere, a TC&C elnyerte a Frost & Sullivan Global New Product Innovation díját egy olyan közös fejlesztésért, amelyben a BME VIK Automatizálási és Alkalmazott Informatikai Tanszék (AUT) 2023 óta aktívan részt vesz.

A díjnyertes Deepfake Guard platform a mesterséges intelligencia alkalmazásának élvonalát képviseli: valós időben képes kiszűrni és semlegesíteni a hang-, valamint videóalapú deepfake-támadásokat az élő kommunikáció során. A projekt központi eleme az a többrétegű, MI-alapú védelmi architektúra, amely multimodális (audiovizuális, nyelvi, viselkedési) jelek alapján képes felismerni a mesterséges tartalmakat, rövid késleltetéssel.

Hamis videók leleplezése

Hogy szemléltessék a megoldásukat, a BME honlapja a Mission Impossible 3. emlékezetes jelenetét elevenítette fel, amelyben néhány perc alatt másolják le egy fegyverkereskedő hangszínét, majd számítógéppel valós időben úgy manipulálják az elmaszkírozott főhős hangját, mintha ő beszélne. Ehhez képest ma már arra is képesek bizonyos szoftverek, hogy élőben állítsanak elő teljesen hamis mozgóképet. Lényegében késleltetés nélkül akár az amerikai elnök szájába is adható olyasmi, amit amúgy sohasem mondana. A deepfake-technológia ezen formája nagy fejtörést okoz az IT-biztonsággal foglalkozó szakembereknek, hiszen ahogy egyre több dolgot intézünk online, a csalásoknak is nagyobb a tere. Ezért nagy jelentőségű a BME Automatizálási és Alkalmazott Informatikai Tanszékén dolgozó kutatók és a TC&C Kft. közös fejlesztése, a Deepfake Guard platform, amely élő kommunikáció során, valós időben képes leleplezni a hang- és videóalapú deepfake-manipulációkat.

Valós kockázat a banki csalás

Olyan helyzetekre kell gondolni, mint egy bankszámlanyitás vagy biztosításkötés, ahol a szolgáltatónak azonosítania kell az ügyfelet, hogy elkerülje a visszaélést. Már Magyarországon is dokumentáltak ilyen irányú sikeres csalási kísérleteket a dark weben árult, bárki által elérhető eszközökkel végrehajtva. Ezek használatához kell némi technológiai tudás, de az eladók profi szolgáltató cégekként lépnek fel, ügyféltámogatást adnak a bűnözőknek. Mint a fejlesztők, Forstner Bertalan egyetemi docens, Kővári Bence egyetemi docens és Békési Gergő doktorandusz hangsúlyozták, igazából mesterséges intelligencia harcol mesterséges intelligencia ellen, hiszen a deepfake-felismerő is egy MI-alapú algoritmus, vagyis folyamatosan tanul.

Értékesíthető kutatási eredmény és partnerség

A TC&C vezetői – akik között vannak volt BME-sek is – két éve azért keresték meg a tanszéket a projekttel, mert belátták, hogy fő termékük, a saját fejlesztésű call center alkalmazás számára a legnagyobb kihívás hamarosan az lesz, hogy biztosítani lehessen: a kamera előtt tényleg az van, akinek mondja magát. A tanszéknek már volt tapasztalata a területen, hiszen régóta dolgoztak generatív technológiákkal, és például a kézzel írt aláírások hitelesítése terén is a BME VIK AUT-on folynak a legösszetettebb hazai kutatások – ennek a tudásnak a rendőrség is látta már hasznát.

A kutatás eredménye egy a hangot és a képet külön-külön szűrő rendszer. A kettő erősíti egymást, a szoftver ugyanakkor nem maga hoz döntést, hanem valós idejű elemzéssel kockázatértékelést készít és visszajelzést ad az operátornak. A pontossága pedig az ismert módszerek esetében meghaladja a 98 százalékot.

A védelem részét képezik az olyan, egyfajta captchákként működő megoldások is, mint hogy megkérik a hívottat, hogy takarja el a száját a kezével. A deepfake-generátorok egyik gyakori gyenge pontja ugyanis, hogy ilyenkor a száj halványan megjelenik a kézfejen, és máris nyilvánvaló, hogy akit látunk, az csak egy korábbi felvételek alapján generált avatár, amely mögött a valós beszélő rejtőzik.

A BME szakemberei szerint az üzleti felhasználók hamarosan elvárják az ilyen biztonsági funkciókat. A következő egy évben a finomhangolás következik, részben azzal a céllal, hogy az algoritmus a kisebb hardvereken, akár egy laptopon is fusson, így a termék vonzó lehessen átlagos az üzleti felhasználóknak is. Megbízható konkurens egyelőre nem látszik a piacon, bár a Microsoft Azure előállt hasonlóval nagyjából három hónapja, az sem egy kiforrott, mindent lefedő megoldás – mondta Békési Gergő.

A BME AUT szerepe nem csak a technikai támogatás volt: a kutatók az MI-algoritmusok fejlesztésében, a valós idejű feldolgozás optimalizálásában és a validációban is kulcsszerepet játszanak. A tanszék aktívan hozzájárult ahhoz, hogy a rendszer ne csak laboratóriumi körülmények között működjön, hanem megbízhatóan üzemeljen éles ipari környezetben is.

A Deepfake Guard projekt kiváló példája annak, hogyan tudunk egyetemi kutatásokból valóban hasznosítható, gazdaságilag értékes technológiát fejleszteni az ipari partnereinkkel együttműködve. A TC&C nemzetközi piacon is sikeres termékének alapját egy olyan kutatási munka adja, amely az egyetemi és ipari szereplők közötti folyamatos párbeszéden és közös célkitűzéseken alapul.

• A kutatás nem öncélú: amikor világos ipari kihívásokat célzunk meg, olyan megoldások születnek, amelyeknek valódi hatása van.
• A hallgatók és a kutatók valós környezetben fejleszthetik a tudásukat.
• Az ipari partnerek hozzáférnek az MI legfrissebb tudományos eredményeihez, méghozzá nem évek múlva, hanem azonnal. A BME AUT elkötelezett amellett, hogy a mesterséges intelligencia működő, értékteremtő technológia legyen, ne csak egy népszerű hívószó.

Hogy mennyire úttörő megoldásról van szó, azt jelzi a Deepfake Guard nemrég megkapott elismerése, a Frost & Sullivan tanácsadó cég Global New Product Innovation díja. Ezt olyan termékért vagy szolgáltatásért ítélik oda, amely a maga területén kiemelkedő innováció, és nem pusztán technológiai újítás, hanem jól illeszkedik a piaci igényekhez is.

Forrás: bme.hu

Ez a cikk eredetileg az UNI in&out 2025 Innováció kiadványában jelent meg.

Támogatott tartalom (x)