better tech tmt analysis

Lorsqu'Elon Musk et des centaines d'experts en technologie ont demandé l'arrêt du développement de l'IA, cela a provoqué une alarme mondiale. Mais la réponse à la tromperie technologique est aujourd'hui une meilleure technologie.

Ce fut peut-être la plus grande bombe de l’histoire du numérique : un moment où la vie a commencé à ressembler à une scène d’un film de science-fiction apocalyptique.

Le 22 mars, plus de 1 800 signataires – dont Elon Musk et Steve Wozniak, cofondateur d’Apple – ont appelé à une pause de six mois dans le développement des derniers super-systèmes d’IA.

D’éminents scientifiques et ingénieurs d’Amazon, de DeepMind, de Google, de Meta et de Microsoft ont également apporté leur soutien.

La lettre dit ceci : « Les laboratoires d’IA [are] sont engagés dans une course incontrôlée pour développer et déployer des esprits numériques toujours plus puissants que personne – pas même leurs créateurs – ne peut comprendre, prédire ou contrôler de manière fiable ».

Il y a de quoi être effrayé.

Le principal sujet de préoccupation concerne la suite probable de l’actuelle version GPT-4 de l’IA.

Les auteurs font allusion à la probabilité de modèles « géants » et insistent sur le fait que les gouvernements devraient intervenir pour mettre fin à cette situation pendant des mois, voire indéfiniment.

En effet, dans les mois qui ont précédé la lettre de Musk, l’opinion publique semblait considérer ce domaine de l’IA comme un nouveau jeu amusant.

Les gens s’amusaient avec la plateforme Chat-GPT: « écrire une chanson dans le style de David Bowie sur la victoire de Charlton Athletic en Coupe d’Angleterre », etc. Ils essayaient de faire passer la version Chat-GPT de leurs propres écrits et voyaient si quelqu’un le remarquait ; très souvent, ce n’était pas le cas.

Il y a eu des reportages sur des personnes qui ont annulé des amendes de stationnement grâce à des lettres écrites par le bot.

Quelques journalistes et autres personnes qui gagnent leur vie en écrivant craignaient de voir leurs produits diminuer. Mais par ailleurs, le public n’était pas en phase avec les experts sur ce sujet et a été surpris par la force de l’avertissement lorsqu’il est arrivé.

Il est difficile de prévoir ce qui va se passer ensuite. Les gouvernements ont toujours été lents, voire statiques, à réagir aux problèmes technologiques et je ne vois pas comment cela pourrait changer. Et même s’il y avait une réponse internationale coordonnée à cette lettre, il semble probable que les personnes impliquées avanceraient à une vitesse beaucoup plus lente que les systèmes qu’elles cherchent soi-disant à mettre en pause.

Qu'en est-il alors ?

Si l’avenir n’est pas clair, nous devons nous accommoder rapidement – très rapidement – du présent. Parce que la plupart d’entre nous n’en sont pas encore là.

Nous vivons aujourd’hui dans un monde où une photo du pape portant apparemment une veste polaire d’apparence comique peut être partagée des millions de fois en l’espace de quelques heures, sans que la plupart des personnes qui la partagent ne se posent la question de savoir s’il ne s’agit pas d’un faux.

Mais le scénario suivant est plus pertinent : nous pourrions, par exemple, recevoir un message qui semble avoir été écrit par un bon ami, mais qui ne l’est pas.

Jusqu’à présent, la plupart des escroqueries étaient génériques et relativement peu sophistiquées – essentiellement des centaines de variations différentes du vieux classique « mon oncle possédait une mine de diamants ».

Dans ce meilleur des mondes de l’IA, au lieu d’un oncle manifestement faux propriétaire d’une mine de diamants, les fraudeurs pourraient vous contacter au sujet de votre oncle propriétaire d’une entreprise de nettoyage à sec – si votre oncle en possède une. Et ainsi de suite.

Nous sommes arrivés à un point où l’IA permet aux fraudeurs, avec un minimum de recherche, de créer des messages sur mesure et personnalisés qui sont beaucoup plus convaincants et qui ont beaucoup plus de chances de passer.

Et si vous ne pouvez plus faire confiance aux messages apparemment réels que vous recevez, à quoi pouvez-vous faire confiance ?

La réponse est de faire confiance au numéro qui les délivre : la mesure la plus fiable, et de loin, pour évaluer la véracité d’un contenu est et reste la trace de données et l’état de l’appareil mobile utilisé pour le délivrer.

Le contenu envoyé par téléphone mobile est bien plus important que celui envoyé par tous les autres médias combinés – et la grande majorité des utilisateurs ont un historique long et détaillé lié à un seul numéro.

Ainsi, en utilisant les données de télécommunications en direct, vous obtenez un aperçu beaucoup plus clair de l’identité des auteurs d’un message que si vous vous contentez d’en lire le ton.

Nous n’en sommes pas encore au point où les utilisateurs ordinaires ont accès à ces ressources de données inestimables, mais les entreprises commerciales, elles, y ont accès – et peuvent y accéder pour des clopinettes en une fraction de seconde.

Il n’y a tout simplement aucune excuse pour laisser votre personnel exposé à des blagues et à des escroqueries potentielles pilotées par l’IA, alors qu’il pourrait recevoir un signal d’alerte rouge basé non pas sur le texte d’un message, mais sur le numéro qui l’a envoyé.

Pour l’instant, il s’agit du meilleur moyen de se protéger contre l’utilisation d’une IA malveillante.

L’avenir apportera certainement de nouveaux risques, comme le suggère la lettre de Musk, mais nous devrons attendre pour voir ce qu’ils sont.

Auteur

Fergal Parkinson

Fergal Parkinson

CMO ET COFONDATEUR

Want more insights?

Sign up to join our mailing list.

Avant de partir .

Jetez un coup d’œil à notre dernier livre blanc, Tackling Mobile Identity Fraud in Financial Services . Nos experts produits sont toujours à votre disposition pour répondre à vos questions !