Les risques de dérive techno-totalitaires de l’entreprise numérique

Ismael Al-Amoudi

- Professeur de théorie organisationnelle à Grenoble Ecole de Management (GEM), membre de la chaire Digital Organization & Society, directeur du Centre d’Ontologie Sociale

24/02/202103:59

Il y a exactement 70 ans, la philosophe Hannah Arendt publiait The Origins of Totalitarianism. Elle suggérait que le totalitarisme s’instaure par trois mécanismes complémentaires : la destruction de la sphère privée ; la dissolution des communautés de solidarité traditionnelles ;.et enfin le remplacement de la règle de droit par la volonté du chef.

Je souhaiterais suggérer que l’entreprise numérique s’engage sur un chemin similaire en ce début de 21ème Siècle. Et que si on veut proposer une alternative démocratique et éclairée, il faut comprendre en détail le lien entre la numérisation de l’entreprise d’une part et le renforcement du contrôle totalitaire du top management sur les employés et sur les clients d’autre part. Mon hypothèse générale n’est certainement pas celle d’un complot, mais plutôt celle d’une convergence d’intérêts entre les directeurs d’entreprise et les acteurs du numérique.

Tout d’abord, concernant la destruction de la sphère privée. Les employeurs surveillent les communications de leurs employé.e.s tant sur les réseaux sociaux que sur les messageries internes. Ils peuvent savoir qui a dit quoi mais aussi qui est en relation avec qui dans tel ou tel groupe virtuel. Du coup, les employé.e.s ont intérêt à s’autocensurer et même à éviter de figurer dans les mêmes groupes que des personnes stigmatisées. Ainsi, même si on se comporte selon les normes sociales dominantes, on devient coupable d’avoir des amis drogués ou prostitués ou simplement grossiers. Pire, on court un risque en apparaissant proches de personnes ouvertement critiques par rapport à tel manager ou qui se moqueraient trop du monde de l’entreprise en général. Aujourd’hui il est encore possible de supprimer son compte Facebook ; demain il risque d’être plus difficile d’éteindre des applications de traçage du type stop-Covid.

Ensuite, concernant la dissolution des communautés de solidarité traditionnelles. Il y a le problème des employé.e.s qui prennent leurs distances d’amis jugés peu présentables. Mais plus généralement, le régime de surveillance générale tue dans l’œuf toute tentative de solidarité oppositionnelle, c’est-à-dire quand des employés s’organisent et tiennent tête à leur hierarchie au nom d’une cause supérieure. De nombreux cas ont été étudiés par David Courpasson et Emmanuel Lazega. Je ne vois pas trop comment ces « rebelles pour une bonne cause » auraient pu opérer sous le regard constant de leur hiérarchie. 

Enfin, le remplacement de la règle de droit par la volonté du chef. Les entreprises s’équipent de systèmes de décision automatisés pour diverses activités. Ces systèmes suggèrent des décisions qui sont difficiles à interpréter en langage humain. Il devient donc quasiment impossible de remettre leurs décisions en cause par des arguments rationnels. Au plus, les supérieurs hiérarchiques peuvent souverainement décider d’ignorer les recommandations de l’ordinateur. La volonté du chef s’en trouve renforcée par rapport à l’autorité du meilleur argument et de la règle de droit.

En somme, nous sommes loin des espoirs entretenus à la naissance d’internet par les gourous de la Sillicon Valley. Il existe des initiatives louables, venant d’entreprises privées, et qui visent à réguler les technologies numériques. Par exemple le livre blanc IA Digne de Confiance récemment produit par le collectif Impact AI. Cependant, pour empêcher les entreprises de devenir des organisations techno-totalitaires, il faut également un imaginaire libéral et des cadres institutionnels qui protègent la sphère privée des employés et des usagers. Plus que jamais, il faut aussi protéger ou développer des poches de collégialité à tous les niveaux de l’entreprise.