Voici l’original du message d’alarme
Voir aussi sur France Culture :
- IA : les machines s’emballent ?
- Le « parrain de l’intelligence artificielle » démissionne de Google pour lancer l’alerte
et encore : - Enquête : derrière l’IA, les travailleurs précaires des pays du Sud
- Dans le Monde :
A Montréal, l’un des pères de l’intelligence artificielle alerte sur une menace existentielle pour l’homme-[ios]]
Voir encore (et surtout) : Algorithmes - Vers un monde manipulé
Cette émission d’ARTE offre d’innombrables exemples de ces manipulations et de leurs conséquences, souvent très graves pour ceux qu’elles touchent. Elles est introduite ainsi :
À l’ère numérique, nos existences sont de plus en plus régies par les algorithmes. Par-delà les écrans, enquête sur le « capitalisme de surveillance » et ses dangers, nourrie d’analyses de chercheurs et de témoignages d’utilisateurs.
Calculer le danger qu’encourt une femme victime de violences conjugales, faire « matcher » étudiants et universités, proposer de la publicité ciblée ou encore évaluer les droits aux aides sociales : les algorithmes font désormais partie intégrante de notre environnement et sont à l’origine de décisions lourdes de conséquences. Avec eux, le « rêve Internet », conçu au départ comme un espace infini de connaissance et de création qui serait investi par l’humanité tout entière, a peu à peu été accaparé par les grandes entreprises, appâtées par cette potentielle source de profits. En se substituant aux services publics mais également aux travailleurs auxquels elle devait fournir des outils d’assistance, l’intelligence artificielle renforce l’emprise du marché sur nos corps. Mus par une logique commerciale implacable, les algorithmes nous enferment dans nos habitudes culturelles, idéologiques, sociétales, reproduisant stéréotypes et discriminations.
Capitalisme de surveillance
Remontant le flux immatériel des données et les câbles sous-marins, bien réels, servant à leur transport, cette enquête met en lumière la montée en puissance d’un « capitalisme de surveillance », illustrée par de nombreux exemples, à l’instar des employés d’Amazon espionnés jusque dans leur intimité. S’appuyant sur l’œuvre de l’artiste, géographe et auteur Trevor Paglen, qui critique la manière dont les algorithmes consolident les préjugés, ce film très politique décortique les dessous du monde digital au travers d’analyses de chercheurs et de témoignages d’utilisateurs. Il nous conduit notamment au Venezuela, où des milliers de « micro-travailleurs » rémunérés à la tâche alimentent, derrière leurs écrans et dans des conditions de travail indécentes, cette économie numérique et nos désirs de consommateurs connectés.