Comment rendre la numérisation équitable ? L’éthique numérique doit éduquer les entreprises et les employés responsables qui posent des questions critiques sur la technologie. Pour garantir la sécurité, la responsabilité sociale, la transparence et l’autonomie individuelle, les décideurs informatiques doivent promouvoir l’autonomisation des utilisateurs au lieu de les pousser vers le numérique.
Index
L’éthique numérique est censée donner aux gens un guide pour les décisions morales dans le monde en réseau. Un manuel qui apporte des réponses à toutes les questions de la numérisation ? Super ! Malheureusement, ce n’est pas si simple. En fait, l’éthique numérique est censée créer exactement le contraire – elle est censée éduquer des entreprises et des employés responsables qui sont renforcés dans leur responsabilité de poser des questions critiques sur la technologie et sa mise en œuvre afin de déduire des règles pour une numérisation équitable.
La technologie comme moyen d’améliorer le monde ou de détruire les valeurs ?
Que reste-t-il des rêves de la communauté de partage en réseau qui voulait faire du monde un endroit meilleur grâce à une innovation perturbatrice ? Après des décennies d’espoirs démesurés autour du cyberespace, les déceptions concernant la « toile brisée » dominent le débat public. Les protections du monde réel ne fonctionnent pas, la société se radicalise en chambres d’écho et l’industrie technologique souffre d’une perte de confiance. Les conséquences négatives de l’économie de plate-forme mondiale ne peuvent être cachées : L’anonymisation du travail, la perte d’emplois par l’automatisation, la précarisation par l’exploitation des conditions de travail et la formation d’oligopoles posent de nouveaux défis à la politique et aux entreprises. Les craintes et les inquiétudes se répandent à propos d’un avenir transhumaniste qui veut rendre le travail humain (et les humains en général) superflu et nous donner un féodalisme 2.0 dans lequel des élites monnayées subvertissent l’État constitutionnel démocratique.
Les technologies de l’information ont apporté des connaissances aux quatre coins du monde, mais elles ont également contribué à la propagation de la désinformation et des asymétries de pouvoir. Les consommateurs d’Internet sont privés de leurs droits car les entreprises technologiques définissent les expériences privées comme du matériel librement disponible et transformé en produits. La culture de surveillance omniprésente fait du droit au secret une denrée sensible et très vulnérable. Les humains sont mis de côté parce que, par commodité, ils ont confié le moindre recoin de leur personnalité à des machines qui nous récompensent par des manipulations et des addictions. Des critiques tels que Tim Berners-Lee, initiateur du Contrat pour le Web, ou Tristan Harris, fondateur du mouvement Time Well Spent et du Center for Humane Technology, réclament donc de nouvelles règles pour les technologies du Web.
Éthique numérique : protéger la dignité humaine et l’autonomie
Que fait un éthicien ? Il interroge les conventions contemporaines de l’action humaine pour la compatibilité individuelle et sociale afin d’indiquer des moyens de vivre une bonne vie. Les questions sur la façon d’agir dans l’économie numérique abondent : Comment les Lumières numériques changent-elles la conception de la vie privée ? Comment assurer l’autonomie plutôt que l’exploitation de l’individu ? Dans quelle mesure sommes-nous prêts à permettre une datafication de nos vies qui nous offre des avantages en termes de qualité de vie et de commodité, mais qui limite notre liberté de choix ?
L’éthique numérique s’articule autour d’un problème philosophique fondamental qui préoccupe l’homme moderne depuis les temps anciens : Qu’est-ce qui est le plus important pour une bonne vie – la poursuite du bonheur individuel ou le devoir moral ? Ou pour le dire plus concrètement en termes d’ère de l’information : comment concilier l’idéal d’une société de la connaissance organisée de manière décentralisée et collaborative, composée d’individus autonomes, avec la réalité de la gestion capitaliste de la surveillance ? Et que se passe-t-il lorsque vous appuyez sur le bouton « opt out » ?
En pratique, l’éthique numérique est censée fournir un cadre pour rendre la numérisation humaine. Car il y a un manque de culture numérique basée sur les valeurs dans l’éducation et les affaires, de modèles commerciaux d’éthique par la conception, et de codes contraignants pour les Big Data et l’IA. Il existe des listes de valeurs qui définissent les tendances dans l’industrie des TI, dans les universités et au niveau politique. Par exemple, l’Institut des ingénieurs en électricité et en électronique (IEEE), Alphabet (Google) et la Société allemande d’informatique ont des codes qui mettent l’accent sur des questions telles que la sécurité, la transparence, l’obligation sociale, l’avancement respectueux et compétent de la technologie et la responsabilité globale. Les « Orientations de l’UE pour une IA digne de confiance » mettent l’accent sur la surveillance humaine, la robustesse technique et la conformité juridique. Bien que les codes donnent des pondérations différentes, ils ont tous en commun qu’ils ne considèrent pas la technologie comme une fin en soi, mais comme un moyen de servir les humains.
L’éthique numérique part du principe que la dignité humaine est au centre de toutes les considérations. Les 10 commandements de l’Institut allemand d’éthique numérique mettent l’accent sur l’autoprotection de l’individu, qui devrait plutôt se révéler le moins possible dans les étendues filtrées des réseaux avides de données et être critique vis-à-vis des tentations de la technologie. Mais la liberté individuelle est-elle préservée si l’on oppose à la contrainte de transparence d’Internet la dissimulation ? Ou est-ce déjà une autocensure normative qui crée le système de surveillance constante ? La prudence est de mise, mais elle ne doit pas être mise en contradiction avec la valeur de la confiance. Cependant, la confiance ne peut être créée que si des personnes courageuses, sûres d’elles et ayant une maturité numérique montrent la voie en tant que modèles.
La maturité numérique renforce le jugement et la résilience des individus
La maturité numérique est une attitude qui doit être apprise : c’est un processus de connaissance et de remise en question de soi tout au long de la vie afin de se développer dans l’espace numérique de manière autodéterminée et en connaissant ses propres capacités, mais aussi ses limites. La maturité numérique est à la fois la volonté d’acquérir des compétences numériques dans la pratique et la capacité d’adopter des perspectives autres que les siennes en matière de communication numérique. Outre les compétences techniques requises pour utiliser en toute confiance le matériel et les logiciels, des compétences sociales, psychologiques et culturelles sont également essentielles. Ce qu’il faut, c’est une large connaissance générale, un haut degré d’abstraction dans la réflexion et une approche holistique. Ce méta-apprentissage, à son tour, développe l’identité personnelle et permet un jugement accru.
La foi aveugle dans la puissance des machines est tout aussi naïve que l’abstinence catégorique. Les technologies numériques sont depuis longtemps devenues systémiques et sont utilisées au niveau gouvernemental, pour les infrastructures de sécurité critiques et dans presque tous les aspects de la vie quotidienne. L’internet et le monde réel ne sont plus des mondes parallèles séparés (au plus tard) de l’internet des choses. Mais les algorithmes qui décident du bien et du mal sont dans de nombreux cas inconnus des utilisateurs. En outre, il y a le problème de la propension à l’erreur des logiciels, qui entraîne des défaillances de sécurité, des erreurs de diagnostic et des préjugés tels que le profilage racial. La documentation souvent insuffisante des processus de développement technologique pose également problème, ce qui signifie que même les équipes de développement ne comprennent pas leurs systèmes à 100 %. Les humains sont-ils toujours aux commandes ou vivons-nous dans une boîte noire ?
La maturité numérique implique de comprendre qu’il n’y a pas de réponse unique à toutes les questions. Nous devons apprendre à vivre avec des incertitudes qui se multiplient dans un monde de plus en plus complexe. Il s’agit plutôt de développer la résilience face à la domination étrangère de la technologie. Cela ne peut se faire qu’avec une saine méfiance à l’égard des tentations du monde numérique et en se concentrant sur le maintien de notre propre équilibre mental. L’observation à distance n’est pas une option – on ne peut éviter de plonger dans le cyber-monde postmoderne des surfaces pour en scruter phénoménologiquement les profondeurs avec tout son être.
Gagner la confiance grâce à la responsabilisation des utilisateurs
La prise de conscience que chacun est impliqué dans un système potentiellement manipulateur et l’exercice souverain de sa propre agence ne doivent pas s’exclure mutuellement : Plus on en sait sur l’omniprésence psychologique de la logique algorithmique, mieux on peut la dépasser. L’autonomisation redonne aux utilisateurs le sentiment de responsabilité qu’ils peuvent faire bouger les choses dans leur propre espace de décision.
Au lieu d’augmenter l’efficacité sur l’employé et de faire progresser la personnalisation sur le client, une bonne numérisation devrait se concentrer sur le devoir de créer de la valeur de manière distante et humaine, en se basant sur la proportionnalité. En ce qui concerne l’internet et les Big Data, cela signifie que ce n’est que grâce à la plus grande autonomie possible (souveraineté des données) et à l’utilisation appropriée des ressources humaines (économie des données) que les clients et les citoyens peuvent retrouver la confiance à long terme dans le fait que la numérisation favorise un bien-être durable.
La manipulation psychologique n’est pas nécessaire pour vendre un produit. Créer une valeur durable plutôt que de générer une croissance rapide et des rendements à court terme non seulement rend les gens heureux, mais assure la survie à long terme de l’entreprise. Pour atteindre une véritable intégrité, il faut modeler l’autonomie au lieu de la forcer par le commandement et le contrôle. Le progrès doit soutenir les gens dans leur perception positive d’eux-mêmes plutôt que de les embrouiller. Pour les développeurs de systèmes technologiques, cela signifie qu’ils doivent offrir « une performance accrue dans des conditions de minimisation de l’entropie contrôlée », comme le dit Sarah Spiekermann dans son livre actuel, Digital Ethics – A Value System for the 21st Century.
4 conseils pour une conception éthique dans le développement web
Compliance
La conformité ne porte pas seulement sur les aspects juridiques, mais aussi sur la responsabilité sociale de ses propres produits ou services. La conception éthique répond naturellement aux exigences légales de protection de l’utilisateur, comme la « Privacy by Design » de la GDPR. Elle s’attache également à promouvoir les besoins sociaux plus profonds du client (échange, information, divertissement, apprentissage, détente, etc.) au lieu de s’orienter uniquement vers des spécifications marketing favorisant les ventes.
Liberté de choix
Il est courant que la clarté, la simplicité et l’utilisation intuitive facilitent la navigation dans les interfaces web. Mais souvent, l’orientation vers les impulsions d’action de l’utilisateur (appel à l’action) est confondue avec l’action guidée et le « nudging » numérique. Un retour d’information excessif sous forme de récompenses crée de fausses incitations. Une conception addictive encourage la multi-consommation, ce qui peut entraîner des pertes d’attention, une surcharge d’informations et une dépendance. Il est plus logique de promouvoir l’équilibre et la concentration du consommateur par le biais de sa motivation intrinsèque, de manière à préserver sa liberté de choix.
Sécurité émotionnelle
Un environnement calme et sûr favorise la prise de conscience et crée une sécurité émotionnelle afin que l’utilisateur puisse établir la confiance. Des processus rythmiques comprenant des pauses et un environnement d’apprentissage authentique contribuent à réduire les perturbations, ce qui favorise la concentration et la mobilisation individuelle. L’utilisateur n’est pas distrait de sa motivation réelle et peut éprouver une satisfaction durable au lieu de la satisfaction d’affects de courte durée. Cela s’applique également à la dynamique de groupe : au lieu d’exercer une pression pour se conformer par une présentation de soi axée sur le statut, il convient de transmettre un sentiment de coopération et d’harmonie à travers des espaces de communication clairement structurés et bien modérés.
Diversité culturelle
Un facteur important est l’adaptation des interfaces web, des applications ou des boutiques en ligne aux caractéristiques régionales et culturelles. L’accent est mis ici sur une orientation plus forte de la conception et du développement de produits vers la diversité des communautés au lieu d’une homogénéisation artificielle qui ne reflète pas le monde réel. L’encadrement de sa propre culture est un facteur décisif pour qu’un client achète un produit. La diversité dans la conception peut éviter les malentendus du client dus à des problèmes de traduction et en même temps permettre un attachement émotionnel plus fort au produit. L’apprentissage interculturel au sein de l’organisation favorise également le développement de produits et la compréhension des marchés étrangers.
Comments are closed.