Elon Musk rejoint des centaines de personnes appelant à une pause de six mois sur le développement de l'IA dans une lettre ouverte

Le milliardaire Elon Musk, le co-fondateur d'Apple Steve Wozniak et l'ancien candidat à la présidence Andrew Yang se sont joints à des centaines de personnes appelant à une pause de six mois sur les expériences d'IA dans une lettre ouverte - ou nous pourrions faire face à "des risques profonds pour la société et l'humanité". "Les systèmes d'IA contemporains deviennent désormais compétitifs pour les humains dans les tâches générales", lit-on dans la lettre ouverte , publiée sur le site Web de Future of Life Institute, une organisation à but non lucratif. « Devrions-nous développer des esprits non humains qui pourraient éventuellement être plus nombreux, plus intelligents, plus obsolètes et nous remplacer ? Le collectif futuriste, soutenu par Musk , avait précédemment déclaré dans une lettre ouverte de 2015 qu'il soutenait le développement de l'IA au profit de la société, mais se méfiait des dangers potentiels. La dernière lettre ouverte, signée par 1 124 personnes mercredi après-midi, désigne le GPT-4 d'OpenAI comme un signe d'avertissement. La version actuelle, dont se vante la société, est plus précise, plus humaine et a la capacité d'analyser et de répondre aux images. Il a même réussi un examen du barreau simulé . "À un moment donné, il peut être important d'obtenir un examen indépendant avant de commencer à former de futurs systèmes, et pour les efforts les plus avancés d'accepter de limiter le taux de croissance du calcul utilisé pour créer de nouveaux modèles", déclare un article récent d' OpenAI . "Nous sommes d'accord. Ce point est maintenant", écrivent les futuristes. "Cela ne signifie pas une pause dans le développement de l'IA en général, mais simplement un recul." Cela peut sembler en contradiction avec les propres efforts d'intelligence artificielle du milliardaire. "Je suis un peu inquiet pour les trucs de l'IA", a déclaré Musk depuis une scène plus tôt ce mois-ci – entouré de dirigeants de Tesla, rapporte Reuters . Mais les chercheurs qui ont parlé à CBS News ont dit la même chose, quoique un peu plus directement. "Je pense que nous devrions être vraiment terrifiés par tout cela", a déclaré Timnit Gebru , un chercheur en intelligence artificielle, à CBS Sunday Morning plus tôt cette année. Certains craignent que les gens n'utilisent ChatGPT pour inonder les médias sociaux d'articles factices qui semblent professionnels, ou pour enterrer le Congrès avec des lettres "populaires" qui semblent authentiques. "Nous devrions comprendre les méfaits avant de faire proliférer quelque chose partout, et atténuer ces risques avant de mettre quelque chose comme ça là-bas", a déclaré Gebru dimanche matin. La pause proposée doit être considérée comme un moyen de rendre le développement de l'IA "plus précis, sûr, interprétable, transparent, robuste, aligné, digne de confiance et loyal", tout en travaillant aux côtés des législateurs pour créer des systèmes de gouvernance de l'IA. "La société a marqué une pause sur d'autres technologies avec des effets potentiellement catastrophiques sur la société. Nous pouvons le faire ici", indique la lettre. "Profitons d'un long été d'IA, ne nous précipitons pas sans préparation dans une chute."