Le fondateur de Craigslist promet 3 millions de dollars pour le système de notation AI-Tool

Craig Newmark donne de l’argent à Common Sense Media pour créer un moyen permettant aux parents et aux éducateurs d’évaluer la sécurité de ChatGPT et d’autres outils d’IA.

Craig Newmark, fondateur de Craigslist, a fait don de 3 millions de dollars pour financer un effort visant à créer un système de notation pour les outils d’intelligence artificielle générative comme ChatGPT, alors qu’il s’inquiète de l’avenir de l’industrie et d’Internet.

Newmark s’est engagé auprès de Common Sense Media, qui fournit des critiques basées sur l’âge pour des films, des émissions de télévision, des livres, des podcasts de jeux et bien plus encore, à financer le développement d’un « système de notation par l’IA pour les parents, les éducateurs, les décideurs politiques et les régulateurs afin qu’ils puissent évaluer ce qui se passe ». rend certains outils comme ChatGPT d’OpenAI sûrs ou dangereux pour les enfants », a rapporté CNBC.

L’essor de l’IA au cours des derniers mois a été un peu un choc pour Craig Newmark, a déclaré le pionnier de l’Internet âgé de 70 ans, même s’il s’intéresse à cette technologie depuis des décennies. « Alors que j’essayais de prêter attention à ce qui se passait, tout m’a pris par surprise », a déclaré Newmark.

« Je crois au travail que Common Sense Media fait pour éduquer les Américains sur les technologies puissantes qui offrent tant de promesses mais qui en même temps peuvent, et dans de nombreux cas le font déjà, infliger le chaos et nuire à notre société », a déclaré Newmark dans un communiqué. déclaration publiée plus tôt ce mois-ci.

Alors que les vastes capacités de l’IA ont explosé dans le monde en ligne, de ChatGPT aux robots de discussion en passant par les moteurs de recherche, et que les discussions sur le potentiel de ces technologies à nuire à la société sont devenues plus claires, Newmark a commencé à examiner les problèmes de plus près.

« J’ai réalisé que si un moteur de recherche utilisait des sources qui n’étaient pas fiables, si ces sources visaient à mentir aux gens, cela créerait un gros problème éthique, et vous ne voulez vraiment pas qu’une source d’information, quelle qu’elle soit, le fasse sciemment. mentir », a déclaré Newmark.

Newmark, qui a donné une grande partie de sa fortune ces dernières années aux efforts visant à lutter contre la désinformation et à renforcer le journalisme – notamment en dotant la Graduate School of Journalism de la City University of New York, qui porte son nom en 2018 – ainsi qu’à lutter contre le harcèlement en ligne et les problèmes de cybersécurité. , se tourne désormais vers les efforts de financement pour maîtriser la propagation de l’IA.

Parmi ses préoccupations, il y a le fait que les plateformes de médias sociaux ont largement renoncé à supprimer les informations qu’elles savent malhonnêtes, tout comme l’essor de l’IA permet aux mauvais acteurs d’utiliser plus facilement ces outils pour créer du contenu trompeur. Entre-temps, certains organismes de surveillance ont renoncé à financer des recherches visant à lutter contre la désinformation, craignant d’être publiquement critiqués dans l’atmosphère politique polarisée actuelle.

« Je suppose que les bénéfices à réaliser en étant un très bon menteur professionnel ont considérablement augmenté parce qu’Internet est un grand amplificateur », a déclaré Newmark. « C’est la presse à imprimer de tout le monde, et vous pouvez l’utiliser comme une presse à imprimer, que vos intentions soient bonnes ou mauvaises. »

Son don à Common Sense Media reflète son inquiétude croissante.

« La protection des enfants face à l’IA est un enjeu majeur », a déclaré Newmark. « Beaucoup de groupes et de politiciens parlent de protéger les enfants, mais ces gars-là sont les vrais, et donc je les aide. »