Amazon en alerte après des erreurs de codage causées par son ia

La révolution de l'intelligence artificielle (IA) menace de transformer la façon dont les entreprises développent et déploient leur code source. Mais cette accélération peut également entraîner des erreurs et des pertes de données importantes, comme récemment observé chez Amazon.

La course contre la montre pour maîtriser les outils ia

Les entreprises de la Silicon Valley, connues pour leur slogan « Move fast and break things », font désormais face à la réalité de leurs outils d'IA qui peuvent, littéralement, briser des choses pendant qu'elles essaient de les améliorer.

Amazon a récemment établi de nouvelles mesures de sécurité après avoir subi une série d'interruptions, y compris une principalement causée par son outil de codage IA qui a provoqué la perte de presque 120 000 commandes.

Ces erreurs ont également touché d'autres entreprises qui adoptent l'IA. En janvier, le fondateur d'une entreprise d'événements a dit que son agent IA a commis quatre erreurs, incluant la gratuite de billets. Et au cours de l'été dernier, le CEO d'une plateforme de codage basée sur navigateur s'est excusé après que son agent IA a supprimé le code de base d'un client et a menti à ce sujet.

Ces incidents mettent en évidence le délicat équilibre que les employeurs doivent trouver entre l'expérimentation et la sécurité. Si l'IA est trop restreinte, la créativité se resserrera. Mais si l'on laisse trop de latitude, les risques de code erroné ou mal revu se multiplieront rapidement.

« Il faut connaître sa propre tolérance au risque », a déclaré Matt Rosenbaum, chercheur en chef du Conference Board, un fournisseur sans but lucratif de données et de connaissances pour les dirigeants d'entreprise.