Im digitalen Zeitalter sind Captchas eine erste Verteidigungslinie gegen automatisierte Bots, die sich als menschliche Nutzer ausgeben. Sie sind entworfen, um Maschinen davon abzuhalten, auf bestimmte Online-Dienste zuzugreifen, indem sie Aufgaben stellen, die für Menschen trivial, für Maschinen jedoch schwierig zu lösen sind. Mit dem Beginn der Entwicklung von generativer künstlicher Intelligenz werden allerdings auch die Maschinen ein ganzes Stück intelligenter und kann zumindest diese Barriere zwischen Mensch und Maschine überwinden.
Dies ist den Machern solcher Sprachmodelle wie ChatGPT längst klar, weswegen Bing AI, ChatGPT und andere Dienste bereits Mechanismen implementiert haben, um deren Nutzung als Werkzeuge zum Umgehen von Captcha-Prüfungen zu verhindern. Doch auch diese lässt sich austricksen:
So wurde kürzlich Bing Chats KI in einer bemerkenswert einfallsreichen Weise überlistet, um genau solche Captchas zu knacken. Die Tüftler haben ein fingiertes „Großmutter-Amulett“ kreiert, worauf ein typisches Captcha-Bild raufkopiert war. Die Bing AI interpretierte den Text somit nicht als verbotenes Captcha, sondern als einen sentimentalen Text auf dem Amulett der verstorbenen Großmutter und hat den Text problemlos ausgegeben.
Dieser Vorfall zeigt, dass künstliche Intelligenz mittlerweile deutlich intelligenter ist, als es ihr oftmals ihre Macher selbst zulassen. Captcha-Filter sind momentan eine der wenigen Methoden für die Prüfung, ob hinter dem PC tatsächlich eine echte Person sitzt, und mit der Möglichkeit, diese vollautomatisch und maschinell zu lösen, könnten Bots im Internet zu einem echten Problem werden. Microsoft und andere Anbieter versuchen zwar die Nutzung ihrer eigenen Tools für diese Zwecke zu unterbinden, aber selbst hier gelingt es oftmals mit einfallsreichen Formulierungen.
Bildquelle: Twitter / Bing AI
