Mobile Intelligence. Trusted Data.

better tech tmt analysis

Als Elon Musk und Hunderte von Technikexperten einen Stopp der KI-Entwicklung forderten, löste dies einen weltweiten Alarm aus. Aber die Antwort auf technikgestützte Täuschung lautet jetzt - bessere Technik.

Es war vielleicht die größte Bombe der digitalen Geschichte: ein Moment, in dem das Leben wie eine Szene aus einem apokalyptischen Science-Fiction-Film erschien.

Am 22. März forderten mehr als 1.800 Unterzeichner – darunter Elon Musk und Apple-Mitbegründer Steve Wozniak – eine sechsmonatige Pause bei der Entwicklung der neuesten KI-Supersysteme.

Führende Wissenschaftler auf diesem Gebiet und Ingenieure von Amazon, DeepMind, Google, Meta und Microsoft haben ebenfalls ihre Unterstützung zugesagt.

In dem Brief heißt es: „Die KI-Labore [are] befinden sich in einem außer Kontrolle geratenen Wettlauf um die Entwicklung und den Einsatz immer leistungsfähigerer digitaler Köpfe, die niemand – nicht einmal ihre Erfinder – verstehen, vorhersagen oder zuverlässig kontrollieren kann.“

Das ist in der Tat beängstigend.

Die größte Sorge bereitet die Frage, was auf die aktuelle GPT-4-Version von AI folgen wird.

Die Autoren spielen auf die Wahrscheinlichkeit „gigantischer“ Modelle an und bestehen darauf, dass die Regierungen eingreifen sollten, um dies für Monate, wenn nicht sogar auf unbestimmte Zeit zu verhindern.

Es war ein plötzlicher Wechsel in der öffentlichen Wahrnehmung des gesamten Sektors, denn in den Monaten vor dem Musk-Brief schien die Öffentlichkeit diesen Bereich der künstlichen Intelligenz vor allem als neues und amüsantes Spiel zu betrachten.

Die Leute haben mit der Chat-GPT-Plattform herumgespielt: „Schreibe einen Song im Stil von David Bowie über den Gewinn des FA-Cups durch Charlton Athletic “ und so weiter. Sie versuchten, die Chat-GPT-Version ihrer eigenen Texte als solche auszugeben, um zu sehen, ob es jemandem auffiel, was oft nicht der Fall war.

In den Nachrichten wurde von Leuten berichtet, die mit vom Bot geschriebenen Briefen Strafzettel aufgehoben haben.

Einige Journalisten und andere, die ihren Lebensunterhalt mit dem Schreiben verdienen, befürchteten, dass ihr Angebot geschmälert werden könnte. Aber ansonsten war die Öffentlichkeit in dieser Frage nicht auf der Höhe der Experten – und wurde von der Stärke der Warnung überrascht, als sie kam.

Es ist schwer vorherzusagen, was als nächstes passieren wird. Die Regierungen haben traditionell nur langsam, wenn nicht gar gar gar nicht auf technische Probleme reagiert, und ich kann mir nicht vorstellen, dass sich daran etwas ändern wird. Und selbst wenn es eine koordinierte internationale Reaktion auf dieses Schreiben gäbe, würden sich die Beteiligten wahrscheinlich viel langsamer bewegen als die Systeme, die sie angeblich aufhalten wollen.

Was bedeutet das nun für uns?

Wenn die Zukunft unklar ist, müssen wir uns schnell – sehr schnell – mit der Gegenwart abfinden. Denn die meisten von uns sind noch nicht so weit.

Wir leben heute in einer Welt, in der ein Bild des Papstes, das offensichtlich eine komisch aussehende Pufferjacke trägt, innerhalb weniger Stunden millionenfach geteilt werden kann, bevor die meisten derjenigen, die es teilen, überhaupt darüber nachdenken, dass es sich um eine Fälschung handeln könnte.

Wichtiger ist jedoch folgendes Szenario: Wir könnten beispielsweise eine Nachricht erhalten, die so aussieht und sich auch so liest, als wäre sie von einem guten Freund geschrieben worden – was aber nicht der Fall ist.

Bisher waren die meisten Betrügereien allgemeiner Art und relativ einfach – im Wesentlichen handelt es sich um Hunderte von verschiedenen Variationen des alten Klassikers „Mein Onkel besaß eine Diamantenmine“.

In dieser schönen neuen KI-Welt könnten sich die Betrüger anstelle eines offensichtlich falschen Onkels, der eine Diamantenmine besitzt, an Sie wenden, um Ihnen mitzuteilen, dass Ihr Onkel eine chemische Reinigung besitzt – falls Ihr Onkel tatsächlich eine besitzt. Und so weiter.

Wir sind jetzt an einem Punkt angelangt, an dem die KI es den Betrügern ermöglicht, mit ein wenig Recherche maßgeschneiderte, personalisierte Botschaften zu erstellen, die viel überzeugender sind und viel wahrscheinlicher ankommen.

Und wenn Sie nicht einmal mehr den echt wirkenden Nachrichten vertrauen können, denen Sie begegnen, worauf können Sie dann noch vertrauen?

Die Antwort ist, der Nummer zu vertrauen, die sie liefert: Der mit Abstand zuverlässigste Maßstab für die Bewertung der Richtigkeit von Inhalten ist und bleibt die Datenspur und der Status des mobilen Geräts, das für die Übermittlung verwendet wird.

Über Mobiltelefone werden um ein Vielfaches mehr Inhalte verschickt als über alle anderen Medien zusammen – und die große Mehrheit der Nutzer hat eine lange und detaillierte Historie, die mit einer einzigen Nummer verknüpft ist

Durch die Verwendung von Live-Telekommunikationsdaten erhalten Sie also einen viel klareren Einblick, wer hinter einer Nachricht steckt, als wenn Sie nur den Tonfall lesen.

Wir sind noch nicht an einem Punkt angelangt, an dem gewöhnliche Nutzer Zugang zu diesen unschätzbaren Datenressourcen haben, aber kommerzielle Unternehmen schon – und sie können in Sekundenbruchteilen für Peanuts darauf zugreifen.

Es gibt einfach keine Entschuldigung dafür, dass Ihre Mitarbeiter potenziellen KI-gesteuerten Blags und Betrügereien ausgesetzt sind, wenn sie nicht aufgrund des Textes einer Nachricht, sondern aufgrund der Nummer, von der sie gesendet wurde, gewarnt werden könnten.

Im Moment ist dies die wertvollste Möglichkeit, sich gegen den Einsatz einer bösartigen KI zu schützen.

Die Zukunft wird sicherlich neue Gefahren mit sich bringen, wie der Musk-Brief andeutet, aber wir werden abwarten müssen, welche das sind.

Autor

Fergal Parkinson

Fergal Parkinson

CMO UND MITBEGRÜNDER

Want more insights?

Sign up to join our mailing list.

Bevor Sie gehen...

Werfen Sie einen Blick auf unser neuestes White Paper, Tackling Mobile Identity Fraud in Financial Services. Unsere Produktexperten stehen Ihnen jederzeit für Fragen zur Verfügung!