Ein australisches Technologieunternehmen hat ein Netzwerk von fast 200.000 KI-gestützten Personen entwickelt, die dazu bestimmt sind, mit Online-Betrügern zu interagieren, sparen dabei jeden Monat Millionen von Stunden den Zeit der Betrügler und erzeugen gleichzeitig handlungsrelevante Informationen für Finanzinstitute und Telekommunikationsanbieter.
Apate, das 2023 gegründet wurde, betreibt ein globales System von KI-Charakteren, die gullible Opfer in Telefongesprächen und Interaktionen in sozialen Medien simulieren. Zu den monatlichen Leistungsmetriken des Unternehmens gehört die Überwachung der Häufigkeit, mit der frustrierte Betrügern während gescheiterter Versuche, die Bots zu täuschen, beleidigende Worte verwenden. "Wir sind wahrscheinlich das einzige Unternehmen auf der Welt, das die Anzahl der F-Wörter, die Betrüger auf unsere Bots richten, als KPI einbezieht", sagte Dali Kaafar, Gründer von Apate.
In einem Zeitraum von sechs Wochen, der bis Dezember 2025 dauerte, führten die Bots von Apate rund 600.000 Betrugsanrufe für einen einzigen australischen Telekommunikationsanbieter, TPG, durch. Die Engagements beanspruchten laut den Einschätzungen des Unternehmens rund 500 Tage der Betrüger, was zu einer potenziellen Ersparnis von etwa 13 Millionen Dollar durch die Verhinderung betrügerischer Aktivitäten entspricht. Die KI-Systeme arbeiten in mehreren Kanälen, einschließlich WhatsApp und Telegram, wo sie als Honigfallen funktionieren, um betrügerische Operationen zu locken und zu überwachen.
Die Initiative stammte aus Kaafars persönlichen Erfahrungen im Jahr 2021, als er während eines Familienausflugs einen Betrugsanruf erhielt. Nachdem er sich 44 Minuten mit dem Betrüger unterhielt, erkannte er das Potenzial für eine skalierbare technologische Intervention. "Als ich aufhörte, dachte ich: wenn ich das aus Spaß heraus machen könnte, stellt sich die Frage, was die Technologie in großem Massstab leisten könnte", so Kaafar. Das Konzept wurde gemeinsam mit Doktoranden der Macquarie University entwickelt, was zu einer ersten Finanzierung durch das Office of National Intelligence und einer späteren Kommerzialisierung führte.
Apate arbeitet mittlerweile mit großen Banken in Australien, Großbritannien, Südafrika und Südostasien zusammen. Die KI-Modelle des Unternehmens, die mit hunderten von Stunden aufgezeichneten Gesprächen zur Abholung von Betrugsmitteln trainiert wurden, verwenden Gegenspielstrategien, um realistische Interaktionen zu gewährleisten. „Die Bots klingen genau wie Sie und ich, mit identifizierbaren Sprachzücken und Akzenten“, bemerkte Kaafar. Zu den primären Zielen der Bots zählen die Unterbrechung von Betrugsverhandlungen und die Erhebung von Informationen über Betrügertaktiken, Geldwallets und Betriebssysteme.
Im Juli identifizierten Apates Systeme einen Marktplatz in Indien, wo Makler verifizierte Bankkonten für Betrugserlöse anboten und Provisionen von bis zu 5 % in USDT einbrachten. Die Forschung des Unternehmens zeigt, dass 20 % bis 30 % der Betrugsgespräche bereits durch KI durchgeführt werden. Kaafar jedoch meint, dass defensive KI-Systeme im dieser sich herausbildenden Rüstungskonkurrenz einen Vorteil haben. "Die Spieltheorie zeigt, dass KI-Abwehrkräfte, die nach Informationen streben, einen intrinsischen Vorteil gegenüber KI-Betrüger haben, die nach Aktionen fragen wollen", sagt er.
Die erweiterten Auswirkungen gehen über einzelne Transaktionen hinaus, denn Betrug stellt eine globale Industrie im Wert von 1,24 Billionen USD dar. Apates Ansatz ist im Einklang mit den steigenden Anstrengungen von Finanzinstituten und Regulierungsbehörden, zunehmend ausgefeilte Betrugsnetze zu bekämpfen.
