→ Télécharger le compte-rendu
Le numérique occupe une place prégnante dans nos vies, au point que Jean-François Serres parle de « société du domicile »1 , où l’on peut tout faire : se divertir, s’informer, consommer, faire ses démarches administratives, télétravailler, avoir des relations sociales, etc. En offrant un accès inédit à l’information, les outils numériques peuvent amplifier et renouveler l’engagement. Pourtant, tout le monde n’est pas à bord. Peut-on dématérialiser sans déshumaniser ? À quelle condition le numérique peut-il être vecteur de lien social et de citoyenneté ? Peut-on construire un numérique éthique ?
L'illectronisme aujourd'hui
Hannah Olivetti : Qu’est-ce que le numérique ?
Yaël Benayoun : En France, nous avons cette particularité de parler « du » numérique comme un ensemble homogène. Internet, l’Intelligence artificielle (IA), un logiciel de bureautique, ou une plateforme administrative : ce sont des réalités techniques et sociales très hétérogènes. Cela crée de la confusion de parler du numérique au singulier. Cela renvoie néanmoins à un sujet clef : l’obligation de connexion. Or, tout le monde n’est pas à bord de la transition numérique.
Qui se trouve freiné dans l’utilisation du numérique ?
Valérie Comblez : En 2021, 15,4 % de la population française est en situation d’illectronisme2 . Il s’agit « de la situation d’une personne ne possédant pas les compétences numériques de base ou ne se servant pas d’Internet » selon l’Insee. Le niveau de vie, l’âge et le lieu de vie conditionnent souvent cette problématique.
Le numérique est partout : pour accéder à ses droits, pour trouver ou exercer un emploi, pour l’éducation des enfants, etc.
La question de l’accès aux droits est une des entrées par lesquelles les habitants entrent dans un centre social. La dématérialisation des démarches administratives est générale, et peu de solutions existent pour accompagner les personnes éloignées du numérique ou celles qui n’ont pas les équipements. On n’a pas d’autre choix que s’en préoccuper. Cela implique une évolution des compétences et des métiers des travailleurs sociaux et des animateurs.
C’est pour cela que nous avons mis en place en 2018 le projet « Centres sociaux connectés » avec la Région des Hauts-de France. Des animateurs spécifiques travaillent avec les salariés et les bénévoles qui accompagnent les habitants, pour viser leur autonomie.
À terme, 66 salariés de 48 Centres sociaux ou Espaces de vie sociale (EVS) seront mobilisés pour accompagner les habitants, en incluant le numérique dans leur champ de compétences.
Yaël Benayoun : On voit bien qu’il y a une obligation implicite à la connexion. On prend souvent le numérique par le prisme des compétences.
Mais ce n’est pas seulement une question de compétences : c’est un choix politique.
Je pense notamment à la numérisation des rendez-vous en préfecture pour le renouvellement du titre de séjour. En Seine–Saint-Denis, il n’y a que 100 rendez-vous mis en ligne par mois. C’est une politique de restriction de l’accès aux droits assez frappante. Les personnes doivent faire de nombreuses captures d’écran pour justifier que, malgré leurs efforts, elles n’ont pas trouvé de rendez-vous.
Enjeux de l'intelligence artificielle
Cette fracture risque de s’amplifier avec la montée en puissance de l’intelligence artificielle. Mais de quoi parle-t-on au juste ?
Pierre-Antoine Marti : Quand on parle de l’Intelligence artificielle, le poids des représentations est énorme. En réalité, c’est l’automatisation d’un certain nombre de tâches cognitives que des humains pouvaient faire, et que la machine va accomplir. Au début, c’était surtout des missions répétitives comme le fait de rentrer des chiffres ou faire des calculs. Avec le temps, les tâches sont de plus en plus complexes.
Il existe désormais des algorithmes d’appariment qui permettent de déléguer davantage de tâches grâce à de grands modèles de calcul. Ils mettent en rapport une offre et une demande. Parcoursup, Tinder, Amazon en sont des exemples. Tout ce que je viens de présenter c’est de l’intelligence artificielle « faible ».
Il y a eu une grande rupture récemment avec l’intelligence artificielle générative.
Ces machines, comme Bard, ChatGPT, Dall-E sont capables de générer automatiquement du texte, des images, de la musique et bientôt probablement des films. Les compétences de ces machines sont impressionnantes, car elles automatisent des tâches que l’on considère comme le propre de l’humain : la créativité, l’imagination, etc.
N’y a-t-il pas un risque qu’un jour l’intelligence artificielle prenne le pouvoir sur les humains ?
Pierre-Antoine Marti : C’est une des représentations de l’intelligence artificielle très présente dans la science-fiction, sur laquelle je travaille. On peut entendre des personnes qui disent « j’ai peur que l’ordinateur s’énerve ». Mais l’ordinateur n’est pas Terminator, c’est juste une machine.
Cependant, il existe un troisième niveau de l’intelligence artificielle qui n’est pas encore arrivé et qui, je l’espère, n’arrivera jamais : l’intelligence artificielle « forte » ou générale, qui est la grande perspective des magnats de la Silicon Valley. Ils rêvent que l’intelligence artificielle soit aussi intelligente, voire plus, que les êtres humains. C’est un peu le principe du transhumanisme.
Quels sont les autres enjeux soulevés par le recours à ces technologies ?
Yaël Benayoun : On oublie bien trop souvent en parlant de numérique qu’il y a des infrastructures derrière tout ceci qui sont bien matérielles. Elles posent des questions écologiques et sociales : les conditions de travail pour l’extraction et le raffinage de minerais dans les terres rares, indispensables pour les batteries des véhicules hybrides, les micro-processeurs pour les portables, les ordinateurs ou les tablettes, etc. Ce processus d’extraction demande de grandes quantités d’eau, qui sera polluée.
Les populations et les ressources sont exploitées à des coûts très bas.
Pierre-Antoine Marti : J’ajoute aussi le coût énergétique qui est énorme, bien qu’invisibilisé. À l’horizon 2030, la consommation énergétique de l’intelligence artificielle sera équivalente à celui d’un pays occidental de plusieurs dizaines de millions d’habitants.
Le coût humain est également important. Pour le développement de l’intelligence artificielle, des travailleurs du clic sous-payés sont recrutés entre autres au Kenya. Ils permettent de modérer l’intelligence artificielle. Il y a un enjeu à s’engager sur les questions écologiques et le coût social humain souvent peu conscientisés.
Leviers d'action pour les acteurs de terrain
Quels sont les acteurs impliqués dans ces développements technologiques ?
Yaël Benayoun : Les dispositifs que nous utilisons sont liés à des jeux d’acteur. Les industriels les rendent désirables, grâce à d’importants investissements.
Par exemple, le développement des caisses automatiques à partir de 2018 a été largement relayé par la presse économique en France. La rhétorique portait sur l’inéluctabilité de la technologie et la prise en compte de la pénibilité du métier de caissières. En réalité, les caisses automatiques existaient déjà, mais leur développement dans le secteur de la grande distribution, qui est très concurrentiel, était une réponse au lancement du supermarché sans personnel par Amazon. De fait, la pénibilité demeure, voire augmente, car les hôtes de caisses, à qui on ne dit plus bonjour, restent debout à surveiller 6 caisses automatiques toute la journée.
La question est de savoir qui décide des normes d’usages. Aujourd’hui, elles sont majoritairement définies par les industriels, en fonction de l’état du marché.
Pierre-Antoine Marti : Comme l’a dit Yaël, ce sont les concepteurs de ces technologies qui ont la main sur le sujet, avec leur vision, qu’ils essaient de vendre.
Dans ce jeu d’acteurs, il y a aussi les organisations qui utilisent ces technologies et les intègrent, comme les États, les entreprises, ainsi que l’utilisateur lambda. Il y a également le législateur, à plusieurs niveaux. Cette législation peut être nationale, mais aussi supranationale, à l’image de l’Union européenne avec les IA Act. On voit d’ailleurs que la législation peut être rapidement dépassée par les évolutions technologiques telles que l’intelligence artificielle générative.
Au dernier niveau, nous avons toute la société civile, composée d’associations, d’ONG, de chercheurs. Elle tente de peser sur le débat public et de sensibiliser sur les usages au quotidien.
Qu’est-ce que ces éléments t’évoquent Valérie en tant que patricienne du quotidien du numérique ?
Valérie Comblez : Tout ça me motive à travailler avec les habitants sur le terrain sur ces sujets évoqués. Nous devons leur donner accès à ces informations et à ces connaissances. Je retiens que le numérique est une ouverture sur le monde, bien qu’il faille aussi accompagner les habitants sur les risques.
Les animateurs des centres sociaux s’emparent progressivement de ces sujets. Ils accompagnent des personnes souvent en situation de précarité et avec des difficultés avec le numérique.
L’engagement de notre côté, ça va être de mettre des humains à côté d’humains pour faire du numérique.
Quels sont les grands enjeux pour l’avenir pour vous Yaël et Pierre-Antoine ?
Yaël Benayoun : Les technologies de l’information et de la communication numériques ont permis à des mobilisations de se structurer et à des causes d’émerger. Je pense à #MeToo ou #BlackLivesMatter, mais aussi à des collectifs de personnes handicapées, qui se sont saisis des réseaux sociaux parce que les modes d’action comme aller aux manifestations ou se retrouver dans des bureaux leur étaient difficiles.
Le numérique devrait lui-même faire l’objet d’un engagement.
Quelles sont les conditions d’existence d’un numérique d’intérêt général ? Des acteurs historiques, comme l’éducation populaire ou les libristes, s’emparent du sujet depuis un bon moment en réaction au modèle prédateur et dominant. Des groupes féministes se réapproprient désormais les savoirs techniques.
Cela suppose de faire participer les usagers aux cercles de réflexion sur les technologies en prévoyant une rémunération dédiée. Sinon, ils ne pourront pas le faire. Les citoyens arrivent aujourd’hui en bout de course, une fois que les services sont déjà en ligne. Il faut faire tous ensemble, et pas sans les citoyens.
Pierre-Antoine Marti : Je partage l’avis de Yaël. Les citoyens doivent être inclus dans la gestion et la conception sur ces questions. En amont de la conception et du fonctionnement des technologies, nous devrions associer les citoyens, les acteurs sociaux, et les pouvoirs publics aux réflexions.
Le numérique, dont l’intelligence artificielle, a des coûts, des enjeux techniques et politiques. Ils ne pourront pas être réglés par les machines.
Nous devons politiser la question du numérique.
D’ailleurs, il faut bien être conscient qu’un usage disproportionné ou trop passif des dispositifs techniques peut conduire au mal-électronisme, et attaquer nos facultés cognitives, comme la lecture, l’écriture, l’imagination, la créativité. Il est nécessaire de revenir au socle de l’échange humain, des savoirs humains. C’est un grand chantier, une affaire d’humains à humains.
Ressources pour aller plus loin
- Jean-François Serres, Engageons-nous en fraternité, Le Pommer, 2017.
- Yaël Benayoun et Irénée Regnault, Technologie partout, démocratie nulle part,
FYP, 2020.
Réaction de Yannick Blanc, grand témoin de la journée
À la Fonda, nous nous intéressons au sujet de la numérisation de la société depuis quelque temps. Dès lors qu’on l’aborde, on se rend compte que les personnes peuvent être rapidement perdues. Cette table-ronde a permis de donner de manière didactique les principaux enjeux.
La régulation par le marché et la régulation par la norme ne suffiront pas à faire des outils numériques d’intérêt général.
Pour que ces outils ne soient pas un danger pour la société, il faut quelque chose de plus que des outils de régulation et de normalisation. Nous avons besoin de traduire des sujets d’expertise en sujets de société, d’en faire des sujets d’engagement. Cela suppose de surmonter l’engagement émotionnel au profit de la construction d’une éthique partagée du numérique.
→ Télécharger le compte-rendu
Ce compte-rendu a été rédigé par Hannah Olivetti de la Fonda et relu par Yaël Benayoun, Yannick Blanc, Diane Bonifas, Valérie Comblez, Charlotte Debray, Anna Maheu, Pierre-Antoine Marti et Guillemette Martin. Il est mis à disposition sous la Licence Creative Commons CC BY-NC-SA 3.0 FR.