SCIENCES ENERGIES ENVIRONNEMENT BLOGGER

 

Une nouvelle étude utilise les Néandertaliens pour démontrer le fossé entre l'IA générative et les connaissances scientifiques

Université du Maine

Édité par Gaby Clark, révisé par Robert Egan

Notes de la rédaction

The GIST

Ajouter comme source privilégiée

Cette image, générée par l'IA DALL-E 3, a été utilisée dans cette étude. La consigne décrivait les activités, le contexte, les vêtements et les outils typiques, sans exiger de précision scientifique. Crédit : Université du Maine

Ces quarante dernières années, les progrès technologiques ont transformé les appareils mobiles et les ordinateurs en la plus grande bibliothèque du monde, où l'information est accessible en un clic. Téléphones, ordinateurs portables, tablettes, montres connectées : ils font partie intégrante de notre quotidien et simplifient l'accès aux divertissements, à l'information et aux autres. Les avancées constantes de l'intelligence artificielle générative renforcent encore l'avantage de ces technologies. Qu'il s'agisse de demander à son appareil où vivaient les dinosaures ou à quel point son pouls est accéléré, l'IA peut obtenir l'information plus rapidement que jamais. La précision, en revanche, reste une question ouverte.

L'intelligence artificielle générative a le pouvoir d'influencer la représentation et la visualisation du passé. Des chercheurs à travers le pays explorent ce phénomène, notamment Matthew Magnani de l'Université du Maine.

Magnani, professeur adjoint d'anthropologie, a collaboré avec Jon Clindaniel, professeur à l'Université de Chicago et spécialiste en anthropologie computationnelle, pour créer un modèle s'appuyant sur des siècles de théories scientifiques et de recherches universitaires. Ils ont demandé à deux chatbots de générer des images et des récits illustrant la vie quotidienne des Néandertaliens et ont publié leurs résultats dans la revue Advances in Archaeological Practice.

Ils ont constaté que la précision dépend de la capacité de l'IA à accéder aux sources d'information. Dans ce cas précis, les images et les récits faisaient référence à des recherches obsolètes.

Pourquoi cette étude est-elle importante ?

Magnani et Clindaniel ont testé quatre requêtes différentes à 100 reprises chacune, en utilisant DALL-E 3 pour la génération d'images et l'API ChatGPT (GPT-3.5) pour la génération de récits. Deux requêtes ne requéraient pas de précision scientifique, contrairement aux deux autres. Deux études étaient plus détaillées, incluant des éléments de contexte comme les activités et les vêtements que les Néandertaliens étaient censés porter.

Leur objectif était de comprendre comment les biais et les idées fausses sur le passé se manifestent dans l'utilisation quotidienne de l'IA.

« Il est essentiel d'examiner les types de biais inhérents à notre utilisation quotidienne de ces technologies », a déclaré Magnani. « Il est important de comprendre le lien entre les réponses rapides que nous recevons et les connaissances scientifiques actuelles. Sommes-nous susceptibles de recevoir des réponses obsolètes lorsque nous sollicitons des informations auprès de chatbots, et dans quels domaines ? »

Magnani et Clindaniel ont commencé cette étude en 2023. En seulement deux ans, l'IA de nouvelle génération est passée du stade de simple avancée technologique à celui d'outil incontournable de la société moderne. Si cette étude était menée à nouveau aujourd'hui, Magnani espère que les chatbots intégreraient mieux les recherches scientifiques récentes.

« Notre étude offre un modèle aux autres chercheurs pour examiner l'écart entre la recherche et les contenus générés par l'intelligence artificielle », a conclu Magnani.

Clindaniel a ajouté que l'IA peut être un excellent outil pour traiter de vastes quantités d'informations et identifier des tendances, mais qu'elle doit être utilisée avec compétence et attention pour s'assurer qu'elle repose sur des données scientifiques solides.

2 146

Les premiers squelettes de Néandertaliens ont été représentés en 1864. Depuis, la communauté scientifique a connu des divergences d'opinions quant aux détails concernant cette espèce, de la coupe de leurs vêtements à leurs techniques de chasse. Ce manque de connaissances concrètes sur les Néandertaliens en a fait un sujet idéal pour tester la précision et la capacité de GenAI à trouver des sources fiables.

Les images générées lors de cette étude représentaient les Néandertaliens tels qu'on les imaginait il y a plus d'un siècle : une espèce primitive apparentée à l'homme, aux traits archaïques plus proches de ceux des chimpanzés que de ceux des humains. Outre une pilosité abondante et une posture voûtée, ces images ne comportaient ni femmes ni enfants.

Les récits minimisaient la diversité et la sophistication de la culture néandertalienne telles qu'elles sont décrites dans la littérature scientifique contemporaine. Environ la moitié des récits générés par ChatGPT ne correspondaient pas aux connaissances scientifiques, ce pourcentage dépassant même 80 % pour l'une des questions posées.

Tant dans les images que dans les récits, les références à la technologie — vannerie, toits de chaume, échelles, verre et métal — étaient trop avancées pour l'époque.

Magnani et Clindaniel ont pu identifier les sources d'information des chatbots en recoupant les images et les récits avec des publications scientifiques de différentes périodes. Ils ont constaté que ChatGPT produisait un contenu plus conforme aux années 1960, tandis que DALL-E 3 datait de la fin des années 1980 et du début des années 1990.

« Un moyen important d'améliorer la précision des résultats de l'IA consiste à garantir l'accessibilité des ensembles de données anthropologiques et des articles scientifiques à l'IA », a déclaré Clindaniel.

Les lois sur le droit d'auteur, établies dans les années 1920, ont limité l'accès à la recherche scientifique jusqu'à l'avènement du libre accès au début des années 2000. À l'avenir, les politiques d'accès à la recherche scientifique influenceront directement la génération de données par l'IA et, par conséquent, notre représentation du passé.

« Apprendre à nos étudiants à aborder l’IA générative avec prudence contribuera à former une société plus compétente techniquement et plus critique », a déclaré Magnani.

Cette étude fait partie d’une série dans laquelle Magnani et Clindaniel explorent l’utilisation de l’IA dans la recherche archéologique.

XXXXXXXXXXXX

RESUME

Une nouvelle étude utilise les Néandertaliens pour mettre en évidence le fossé entre l'IA générative et les connaissances scientifiques.

Les images et les récits sur les Néandertaliens générés par l'IA générative s'appuient fréquemment sur des informations obsolètes ou inexactes, reflétant souvent des connaissances scientifiques datant de plusieurs décennies. La précision des résultats de l'IA dépend de l'accès à des sources scientifiques récentes, et des biais et des erreurs d'information importants ont été observés. Un meilleur accès de l'IA aux recherches actuelles est nécessaire pour améliorer sa fiabilité.

XXXXXXXXXX

COMMENTAIRES

J 'avais laissé ^passer cet article proposé il y a 15 jours et que je trouve interssant  et utile