USA regulation – Digital Media Knowledge

02/05/202202/05/2022

Régulation des réseaux sociaux : étude comparative France / États-Unis / Chine

Les tentatives internationales de régulation des mastodontes que sont les réseaux sociaux ont été nombreuses. Ces géants sont régulièrement au coeur des débats, suscitant la peur face à tant d’hégémonie et souvent qualifiés de « plus puissants que les États ».

L’heure est au bilan sur l’état actuel de cette régulation, avec une étude comparative de 3 visions : européenne, américaine et chinoise.

© Source : https://www.lebigdata.fr/dsa-digital-services-act-ue-censure

Digital Service Act (DSA) : l’Europe se met d’accord

Le 23 avril dernier a été marqué par la conclusion tant attendue d’un accord provisoire entre la Commission, le Conseil et le Parlement européen sur le projet de loi Digital Service Act (DSA). Emboitant le pas au Digital Market Act (DMA) dont l’accord provisoire a été obtenu en mars 2022, ce texte européen cible la régulation des contenus illicites en ligne et la modernisation du cadre légal déjà en vigueur. En complément de la régulation économique des plateforme « gatekeepers » proposée par le DMA, cette règlementation a pour but de rendre « ce qui est illégal hors ligne (…) illégal en ligne dans l’UE« , comme l’a déclaré Ursula von der Leyen, présidente de la Commission européenne. Il vise de nombreuses entreprises et plateformes, telles que les opérateurs, les marketplaces, les services de cloud et les réseaux sociaux, et instaure des obligations spécifiques aux plateformes dites « very large » (NDLR : les plateformes comptant plus de 45 millions d’utilisateurs actifs ) dans une optique de responsabilisation de ces dernières.

Au-delà des enjeux de traçabilité liés aux marketplaces et l’interdiction de la publicité ciblée à destination d’enfants auxquels s’attaque le DSA, de nombreuses obligations visent directement les réseaux sociaux et les pratiques en ligne telles que les discours haineux, la discrimination, le revenge porn et la publication de contenu illicite dans son ensemble. En pratique, ces mesures devraient permettrede lutter contre ces agissements et de signaler plus facilement lesdits contenus. On peut notamment noter l’obligation de retrait immédiat dans le cas de partage de contenus intimes non consentis par les victimes de cyber-violence. Les algorithmes, ingrédient secret des plateformes les plus performantes, ne sont pas épargnés : le texte exige plus de transparence quant à leur fonctionnement, obligeant les géants de la tech à fournir un accès à leur algorithme à la Commission européenne et aux États membres. Dès le 1 janvier 2024, date provisoire d’entrée en vigueur du texte, les entreprises en faute pourront risquer des amendes allant jusqu’à 6% de leur chiffre d’affaires mondial ainsi qu’une exclusion du marché européen.

Les États-unis tentent de rattraper leur retard

À travers ces initiatives de régulation, les lois européenne pourraient bien s’établir comme un modèle à l’international, comme s’en ai notamment réjouit la lanceuse d’alerte Francis Haugens « Allez les Etats-Unis, maintenant c’est notre tour » en faisant référence au projet du DSA.

En effet, bien que les travaux de parlementaires américains aient contribué à l’inspiration du projet DMA (NDLR : rapport de la sous-commission du droit antitrust, commercial et administratif de la commission judiciaire de la Chambre des représentants des États-Unis sur la concurrence sur les marchés numériques), le droit sur internet aux Etats-Unis est assez pauvre. Il se résume grossièrement à deux lois adoptées à la fin des années 90 : la section 230 du Communications Decency Act (CDA) qui garantit la liberté d’expression en ligne et le Children’s Online Privacy Protection Act (COPPA), qui vise la protection en ligne des enfants de moins de 13 ans. Cependant, les Etats-Unis semblent vouloir rattraper leur retard dans ce domaine. Joe Biden a déjà exprimé la nécessité de reformer la section 230 du CDA et plusieurs projets de loi ont récemment été introduits. Parmi eux, on retrouve le Kids Online Safety Act (KOSA) datant de février 2022, qui imposerait de nouvelles garanties, de nouveaux outils et de nouvelles exigences de transparence pour les mineurs en ligne de moins de 17 ans. Enfin, on peut également noter le Earn It Act (EIA), réintroduit en février dernier puis adopté, qui met en avant la lutte contre la diffusion de contenus pédopornographiques sur Internet.

En ce qui concerne spécifiquement les réseaux sociaux, la sénatrice Amy Klobuchar a introduit à la Commission fédérale du commerce le 10 février 2022 le projet de loi Social Media NUDGE Act (Nudging Users to Drive Good Experiences on Social Media). Ce projet doit permettre à la National Science Foundation (NSF) et à la National Academy of Sciences, Engineering, and Medicine (NASEM) de réaliser une étude sur les plateformes de médias sociaux et les questions d’addiction, de désinformation et de mise en avant de contenus dangereux en lien avec les algorithmes existants. Les enjeux de transparence sont également au cœur du projet, avec par exemple un rapport de transparence public requis tous les 6 mois pour les grandes entreprises des médias sociaux, tout comme les informations concernant la finalité des contenus signalés. Des enjeux sensiblement similaires à ceux portés par le DSA

En Chine, une régulation gouvernementale unique en son genre

Passé relativement inaperçu en Europe, le Règlement sur l’administration de la recommandation sur les algorithmes des services d’information sur Internet a été mis en application en Chine le 1er mars 2022.

© Source : https://ruedesconfines.com/pendant-la-crise-les-chinois-jouent-avec-les-reseaux-sociaux/

Cet ensemble de recommandations vise très spécifiquement les algorithmes, leur transparence et leur utilisation avec des mesures telles que la possibilité pour les utilisateurs de désactiver leur profil ou qu’il soit pas pris en compte, la conservation par les entreprises des traces du fonctionnement de leur algorithme pendant six mois ou encore la nécessité pour les entreprise capables de mobiliser l’opinion publique de s’enregistrer auprès des autorités.

Bien que la transparence liée aux algorithmes soit là aussi le noyau du projet, l’esprit général du règlement s’éloigne des projets européen et américain. En effet, les projets occidentaux se distinguent à moindre échelle par des mesures visant la protection des droits humains (Europe) et des droits consommateurs (États-Unis). De son côté, le projet chinois met avant tout l’accent sur la protection du pays, de sa sécurité et de ses valeurs (celles promues par le régime) et ne masque pas la volonté du parti d’incarner le monopole étatique du contrôle, s’accaparant les nouvelles richesses générées par les géants de la tech : les données.

Le danger d’un contrôle d’état sous couvert de régulation

Dans une logique similaire, l’administration du cyberespace de Chine (CAC) a également annoncé début avril le lancement de la campagne QingLang d’ici la fin de l’année 2022, poursuivant l’objectif de création d’un espace en ligne sain. Déjà évoquées l’année passée, ces opérations se définissent littéralement comme « nettoyé et non contaminé ». Ce qui s’illustre notamment à travers les suppressions et les fermetures engendrées par les régulateurs chinois. En 2021, plus de 22 millions d’informations illégales ont été supprimés et plus d’un milliard de comptes illégaux ont été fermé afin de lutter contre le « chaos ». Ce grand nettoyage de l’internet chinois s’est notamment déroulé avant les JO de Pékin. Cette tendance à la censure s’est également confirmée fin 2021 avec l’interdiction de LinkedIn en Chine, la dernière plateforme américaine encore présente dans le pays.

Si la critique officielle n’est pas monnaie courante en Chine, la situation est différente aux États-Unis où les projets de régulation ne font pas toujours l’unanimité. Le NUDGE Act est notamment critiqué comme un projet remettant en cause la liberté d’expression promue par la section 230 et si chère à la culture américaine. Certains projet sont également critiqué pour leur contenu, comme le Earn It Act. Ici, bien que la lutte contre la diffusion de contenu pédopornographique ne soit pas remise en cause en soit, c’est les moyens proposés (suppression du chiffrement de bout en bout) et leurs conséquences sur les données privées qui sont questionnés. En effet, si les États-Unis semblent aspirer à égaler le cadre législatif européen en matière de numérique, les enjeux relatifs à la protection des données semblent encore pêcher, comme l’illustrait déjà l’arrêt Schrems II quelques années auparavant.

Ce décalage entre projet théorique et application technique s’illustre avec des questionnements similaires en Europe. On peut noter par exemple les débats autour de l’obligation d’inter-opérabilité imposée aux médias sociaux et les limites technologiques s’y afférant.

L’intelligence artificielle, prochaine course à la règlementation ?

L’intelligence artificielle est devenue le fer de lance des algorithmes qui font fonctionner les réseaux sociaux. En Europe, la Commission Européenne a proposée l’Artificial Intelligence Act en avril 2021, avec une dynamique similaire aux projets de DMA, DSA et Data Governance Act (DGA). Des initiatives fédérales similaires ont également émergé depuis aux Etats-Unis, notamment en Alabama, au Colorado, dans l’Illinois et dans le Mississippi avec des lois comme l’Artificial Intelligence Interview Act et l’Alabama Council on Advanced Technology and Artificial Intelligence. Plus spécifiquement un projet de régulation des algorithmes d’IA à l’échelle fédérale a même été introduit au Sénat américain en février dernier. Cet Algorithmic Accountability Act témoigne de l’influence de l’Europe sur les États-Unis en matière de régulation numérique ainsi que de la volonté de convergence de ces deux modèles.

La percée de l’IA dans tous les secteurs, des réseaux sociaux au transport ou à la santé est déjà prémonitoire sur la complexité de la création d’un cadre juridique réglementaire approprié.

Par Hannah Roux-Brion

SOURCES

DSA

DSA : l’Europe trouve un accord « historique », France Culture, Baptiste Muckensturm, 26 avril 2022
https://www.franceculture.fr/emissions/les-enjeux-des-reseaux-sociaux/dsa-l-europe-trouve-un-accord-historique

DSA : les institutions européennes ont trouvé un accord !, Siècle digital, Grégoire Levy, 25 avril 2022
https://siecledigital.fr/2022/04/25/dsa-les-institutions-europeennes-ont-trouve-un-accord/

L’Europe valide le DSA : les 10 mesures clés pour réguler les géants de la tech, Le blog du modérateur, Appoline Reisacher, 25 avril 2022
https://www.blogdumoderateur.com/europe-valide-dsa-mesures-reguler-geants-tech/

USA

Un projet de loi vise à obliger les réseaux sociaux à modifier le fonctionnement du fil d’actualité, Siècle digital, Valentin Cimino ,14 février 2022
https://siecledigital.fr/2022/02/14/un-projet-de-loi-pourrait-obliger-les-reseaux-sociaux-a-modifier-le-fonctionnement-des-algorithmes/

Senator Klobuchar “nudges” social media companies to improve content moderation, Brookings, Mark MacCarthy Wednesday, February 23, 2022
https://www.brookings.edu/blog/techtank/2022/02/23/senator-klobuchar-nudges-social-media-companies-to-improve-content-moderation/

Tech Trojan Horse: How the Senate is poised to codify censorship of social media, The Hill, JONATHAN TURLEY, 03/05/22
https://thehill.com/opinion/technology/596913-tech-trojan-horse-how-the-senate-is-poised-to-codify-censorship-of-social/

New bill would force social media giants to embrace friction — or else. Protocol Issie Lapowsky, February 10, 2022
https://www.protocol.com/bulletins/social-media-nudge-act

U.S. Congress Introduces Kids Online Safety Act. Covington, Lindsey Tonsager & Madeline Salinas, February 23, 2022
https://www.insideprivacy.com/childrens-privacy/u-s-congress-introduces-kids-online-safety-act/

Quel est l’état des droits sur internet aux États-Unis ? Siècle digital, Clémence Maquet, 19 avril 2021
https://siecledigital.fr/2021/04/19/quel-est-letat-des-droits-sur-internet-aux-etats-unis/

CHINE

Les autorités chinoises veulent réguler les algorithmes de recommandation, qui font le quotidien d’Internet, Le Monde, 8 février 2022
https://www.lemonde.fr/idees/article/2022/02/08/les-autorites-chinoises-veulent-reguler-les-algorithmes-de-recommandation-qui-font-le-quotidien-d-internet_6112738_3232

La Chine recadre les algorithmes des agrégateurs d’actualités, Siècle digital, Antoine Messina , 13 avril 2022
https://siecledigital.fr/2022/04/13/la-chine-recadre-les-algorithmes-des-agregateurs-dactualites/

QingLang Regulations, More of Them—and More Control on Chinese Social Media, Bitterwinter, Tan Liwei, 03/23/2022
https://bitterwinter.org/qinglang-regulations-more-control-on-social-media/

INTELLIGENCE ARTIFICIELLE

Quelles limites donner à l’IA pour protéger les droits fondamentaux ? Siècle digital, r Maxime Mohr, 25 avril 2022
https://siecledigital.fr/2022/04/25/quelles-limites-donner-a-lia-pour-proteger-les-droits-fondamentaux/

Quelle réglementation pour l’intelligence artificielle en Europe ? Siècle digital, Clémence Maquet, 23 avril 2021
https://siecledigital.fr/2021/04/23/cadre-juridique-intelligence-artificielle-europe/

Introduction d’un projet de régulation des algorithmes d’IA à l’échelle fédérale, Jean-Baptiste Bordes & Margherita Ceccagnoli, mars 3, 2022
https://france-science.com/introduction-dun-projet-de-regulation-des-algorithmes-dia-a-lechelle-federale/

20/12/202020/12/2020

La Section 230 du Communications Decency Act : Un bouclier en danger ?

La section 230 du Communications Decency Act, plus communément appelée par les autorités américaines le bouclier des réseaux sociaux, est plus en danger que jamais depuis l’annonce des résultats des élections présidentielles américaines. Avec l’avènement des procès concernant les réseaux sociaux depuis début 2020, leur rôle et leur place prédominante sur le marché du net est de plus en plus controversée. Une modification de la section 230 pourrait remettre en question le fonctionnement fondamental sur lequel nos réseaux sociaux reposent aujourd’hui : la liberté d’expression.

Quelle est donc la particularité de cette disposition ?

Historique et contenu de la Section 230

La section 230 est une pièce du Communications Decency Act qui entra en vigueur en 1996 et fut rédigée dans l’intention de protéger un internet bien différent de celui que l’on connait aujourd’hui. Le souhait premier de cette loi était avant tout d’imposer de strictes responsabilités aux médias afin de protéger les enfants de tout contenu obscène qu’ils pourraient diffuser.

Le Congrès a cependant rencontré un premier dilemme en rédigeant cette oeuvre législative. La loi américaine distingue traditionnellement les publishers des distributors. D’un côté les publishers sont responsables du contenu qu’ils publient, et de l’autre côté les distributors sont épargnés de toute responsabilité à moins qu’ils aient connaissance de l’illégalité du contenu qu’ils auraient publié. Cette distinction n’a pas été créée pour y intégrer les réseaux sociaux d’aujourd’hui. Les acteurs d’internet posent un problème en ce qu’ils agissent simultanément comme publisher et distributor. L’enjeu de cette qualification était important car en découlait le régime juridique applicable.

Le Congrès décida donc d’ajouter à son entreprise législative ce qu’il a appelé le « Good Samaritan Statute » par lequel il ajouta la section 230. Sa volonté était de ne pas entraver la bonne marche des affaires en retirant une potentielle responsabilité qui aurait pu dissuader les entreprises d’investir dans le marché de l’internet.

La section 230 contient deux alinéas décisifs. Le premier dispose : « Aucun fournisseur ou utilisateur d’un service informatique interactif ne doit être traité comme l’éditeur ou l’auteur d’une information provenant d’un autre fournisseur de contenu informatif ».

On voit bien que le Congrès n’a pas souhaité faire tomber les géants du net dans une catégorie particulière mais a choisi de leur imposer un régime juridique particulier. Il refuse de les considérer comme des publishers traditionnels en leur conférant une immunité.

Le deuxième alinéa offre une exonération de responsabilité civile pour les opérateurs de services informatiques interactifs sur « toute mesure prise volontairement et de bonne foi pour restreindre l’accès ou la disponibilité de contenu que le fournisseur ou l’utilisateur considère comme obscène, lascif, dégoûtant, excessivement violent, harcelant ou autrement répréhensible, que ce matériel soit ou non protégé par la constitution ».

Les controverses autour de cette Section

Le principal challenge aujourd’hui est cette immense liberté qui est conférée aux réseaux sociaux via cette section 230 avec une absence de régulation. Il leur est aujourd’hui reproché de laisser circuler une large quantité de FakeNews. Leur système de « fact checking » ne serait pas assez efficace. On constate en particulier des pics d’émergence de fake news lors des élections présidentielles de 2016 et 2020. Il a également été démontré que même en période d’après-élection, l’engagement de Facebook avec des sites de fake news est aux alentours de 70 millions par mois le plaçant donc en diffuseur majeur de désinformation.

Il leur est d’autant plus reproché d’être arbitraire dans leur modération de ces contenus, déterminant ainsi ce qui est à leur égard inapproprié ou non. Il en résulte une absence de neutralité qui est fortement pointée du doigt par les conservateurs.

Nous avons un exemple récent avec un post du New York Post ayant mis en avant le fait que Hunter Biden, fils de Joe Biden aurait reçu un email d’un ukrainien le remerciant d’une rencontre avec son père. Facebook et Twitter ont considéré ce contenu comme douteux et nécessitant une vérification des faits plus approfondie. Ils ont donc empêché la circulation de cet article sur leurs plateformes. Cette mesure provoqua une forte réaction des républicains dénonçant une non-neutralité des réseaux sociaux et une nécessité de les réguler.

Le problème est qu’il en résulte une méfiance accrue de la part des acteurs politiques envers ces plateformes. Ce manque de fiabilité des réseaux sociaux représente également un argument de plus pour contester chaque information qui est diffusée. On voit que la section 230 n’est plus adaptée à l’internet d’aujourd’hui et qu’elle empêche de mettre de l’ordre dans le chaos.

Les menaces gravitant autour de cette Section

C’est indéniable, la place de la section 230 dans le paysage législatif est compromise. Les deux partis politiques souhaitent une régulation des réseaux sociaux et cela risque de passer par une modification de cette section. Cependant, le consensus sur les suites à donner est loin d’être acquis. Nous avons d’un côté les conservateurs qui veulent que les réseaux sociaux restent neutres, alors que de l’autre côté nous avons les démocrates qui souhaitent une éradication de chaque contenu blessant qui peut avoir un effet négatif sur la société.

Il s’agit donc d’un fort enjeu politique d’autant plus que Donald Trump a récemment menacé d’utiliser son veto si la Section 230 n’était pas complètement éradiquée. Il l’a qualifiée d’injuste et de très dangereuse en ce qu’elle permet aux réseaux sociaux de censurer les discours des conseravteurs comme ils le souhaitent. Le président avait déjà ordonné à la FCC en mai dernier, de trouver un moyen d’utiliser cette section pour réguler ces contenus. Le Sénat a également confirmé la nomination de Nathan Simington à la FCC, supporter des opinions de Donald Trump sur les questions d’abrogation de la Section 230. Cela ne plaide surement pas en la faveur de cette pièce législative.

Une abrogation susceptible de heurter la liberté d’expression

Les réseaux sociaux sont compliqués à réguler. La Section 230 est le socle de ce qui fait aujourd’hui leur succès : elle conserve la liberté d’expression sur internet. Cette dernière est fortement protégée aux Etats-Unis par l’amendement n°1, les dérogations s’y attachant sont rares. Si on décide de modifier cette section, c’est cette liberté qui risque d’être touchée de plein fouet. Plusieurs propositions ont été données par le Congrès comme par exemple une immunité accordée à la condition d’instaurer un impossible système de modération neutre.

Brendan Carr (Federal Communications Commissioner) a en effet mentionné le fait que beaucoup de régimes à travers le monde accepteront volontiers de disséminer le contenu de leur opposition politique en utilisant la notion de « harmful speech ». La notion de désinformation pourrait être détournée au profit du mouvement politique en place. Si on réduit l’immunité accordée, la modération des réseaux sociaux serait donc en risque d’être influencée par le gouvernement politique en position.

Il y a un impératif fondamental à ce que le Congrès maintienne un droit d’expression que ce soit pour les opinions populaires ou non populaires. Oui, il y aura bien une réforme de la Section 230, mais dans quelle mesure ? Quelles-en seront les conséquences ? Il s’agit ici d’une épreuve d’une haute délicatesse. Quoi qu’il en soit, tout projet de loi qui portera atteinte à la liberté d’expression garanti par le premier amendement sera bloqué.

Adélaide Rocherolle

sources : https://www.numerama.com/politique/627321-donald-trump-vs-twitter-quest-ce-que-la-section-230-que-le-president-veut-abroger.html

https://en.wikipedia.org/wiki/Section_230

True history about the section 230 by Senator Hawley https://www.hawley.senate.gov/sites/default/files/2020-06/true-history-section-230.pdf

https://about.fb.com/wp-content/uploads/2018/10/fake-news-trends.pdf

The case against social media content regulation https://cei.org/issue_analysis/the-case-against-social-media-content-regulation/

Trump: I will veto section 230 https://www.nexttv.com/news/trump-i-will-veto-sec-230-less-ndaa

Nomination of Nathan Simingtonhttps://techcrunch.com/2020/12/08/senate-confirms-nathan-simington-as-fcc-commissioner-potentially-setting-up-years-of-stonewalling/

https://www.brookings.edu/techstream/how-section-230-reform-endangers-internet-free-speech/