Considérez: Comment la technologie peut-elle aider à combattre la propagande médiatique?

Photographe: Arkady Shaikhet.

introduction

Cet article peut être divisé en deux parties logiques. Dans le premier, je considère le phénomène de la propagande médiatique: qu'est-ce que c'est, pourquoi est-il dangereux et à quelles choses terribles cela a déjà conduit dans l'histoire. J'examinerai en détail les mécanismes de travail de la propagande d'État moderne dans les médias et j'essaierai de comprendre pourquoi elle est si efficace et quelles sont ses caractéristiques.



La seconde partie est une réflexion sur la manière dont, sur la base des traits caractéristiques évoqués dans la première partie, on peut essayer d'automatiser la reconnaissance de la propagande dans les médias. Puisque la propagande est l'impact du texte (en plus de l'image, bien sûr) et que je n'ai pas les connaissances nécessaires dans le domaine du traitement du langage naturel (Natural Language Processing), mes calculs sont exactement ce que je pense à haute voix. Je décrirai de manière plus ou moins structurée les fonctions possibles d'un programme qui devrait rechercher des signes de propagande dans les supports médiatiques, mais sans spécificités techniques.



Par conséquent, je dirai tout de suite: ne vous attendez pas à lire dans le texte des algorithmes spécifiques et leurs méthodes d'application. Au contraire, je serai honnête: j'espère trouver parmi vous ceux qui comprennent à la fois la PNL et le développement de plugins de navigateur et obtenir des commentaires de votre part dans les commentaires. Si suffisamment de personnes sont infectées par mes idées, alors peut-être pourrons-nous travailler ensemble sur une solution open source intéressante!



Clause de non-responsabilité



Puisqu'il ne devrait pas y avoir de politique sur Habré, je n'entrerai pas dans les détails dans le texte sur la façon dont l'idée de créer ce projet est née. Si quelqu'un veut savoir à ce sujet - en particulier, probablement ceux qui veulent rejoindre le projet - je vous le dirai dans les commentaires ou à titre personnel. Imaginons simplement un certain État, que les politologues qualifieraient d '«autoritaire», c'est-à-dire un État dans lequel les libertés personnelles des citoyens sont supprimées, la fraude électorale est commise, l'opposition est persécutée, etc., et imaginons que tout ce qui sera discuté de plus, se réfère à cet État abstrait (bien que, étant donné le contexte culturel, bien sûr, les exemples proviendront principalement de nos réalités post-soviétiques). Pourquoi je me concentre spécifiquement sur la propagande d'État, je l'expliquerai plus tard.

Qu'est-ce que la propagande et pourquoi est-elle dangereuse?

Photographe: Elliott Erwitt

Un des piliers éternels des États autoritaires est la puissante propagande étatique. Nous entendons parler de ce phénomène assez souvent - mais à quoi ressemble-t-il?



L'auteur de propagande américain Edward Bernays en 1928 a défini la propagande comme «un effort constant et inlassable pour créer ou façonner des événements dans le but d'influencer les attitudes du public envers une initiative, une idée ou un groupe». En d'autres termes, il s'agit d'une tentative de manipulation de l'opinion publique. Il est intéressant de noter qu'en droit international, il n'y a toujours pas de définition unifiée du concept de "propagande" en raison du fait qu'il est très difficile de tracer une ligne claire entre les manifestations de liberté d'expression et la propagande systématique, étant donné que de nombreux régimes autoritaires, avec plus ou moins de succès, peuvent prétendent être des démocraties «défectueuses». Cependant, des organisations telles que l'OSCE distinguent 2 types de propagande:

1. , , , , , . – , , . « ».
2. , , .

C'est un point assez important, réglons-le: il y a de la propagande pour la guerre, utilisant des discours de haine et d'autres propagandes politiques . Nous reviendrons sur cette division, ainsi que sur une définition plus précise du discours de haine plus tard. En attendant, essayons de répondre à la question de savoir pourquoi la propagande est un danger pour la société?



L'histoire connaît plusieurs exemples tragiques de la façon dont la propagande a réussi à éveiller le sentiment de haine chez les gens, ce qui a conduit à des guerres et à un génocide. L'exemple du Troisième Reich nazi est si célèbre que je ne vois aucune raison de m'y attarder séparément. Un autre exemple est le génocide au Rwanda, au cours duquel les Hutus ont tué et violé des centaines de milliers de Tutsis pendant trois mois; un an avant ces événements, la station de radio "Radio et Télévision libres de mille collines" a commencé à exhorter les auditeurs à exterminer les cafards (le nom méprisant des Tutsi) et s'est livrée à l'humour raciste, et avec le début du génocide, elle a commencé à faire entendre les adresses de personnes spécifiques qu'il fallait, à leur avis, tuer. ... La station de radio privée Thousand Hills a reçu un financement d'une autre station de radio publique,et ses employés étaient exclusivement hutus. Au fil des ans, l'économiste de Harvard David Yanagizawa-Drott a dirigéune étude au cours de laquelle il a pu prouver l'influence de la propagande radio sur l'ampleur de la tragédie en comparant le niveau du signal à chaque point du pays avec le nombre de personnes condamnées pour génocide à ces points.



Les guerres yougoslaves sont un autre exemple de l'influence de la propagande sur le cours de l'histoire. De nombreuses études sur le rôle des médias dans le conflit en ex-Yougoslavie ont montré que les médias au service du régime contribuaient à l'incitation à la guerre et à la haine. Mark Thompson dans son livre « Forging War » (Forging the War) a écrit que « la violence verbale menait au physique ». Le journaliste italien Paolo Rumiz a également écrit dans son livre « pour le massacre Masks » (Masques pour un massacre), que «en 1988, la guerre faisait la une des journaux et des articles».



Ce sont tous des exemples extrêmes, lorsque la propagande appelait presque directement au massacre et à la destruction d'un autre peuple ou groupe social. Mais il est évident que la propagande n'est pas toujours aussi simple et qu'elle ne poursuit pas toujours précisément ces objectifs. Pourquoi, alors, est-ce dangereux et nuisible?



Le journalisme a un objectif en face de lui-même: comprendre et informer les citoyens sur les résultats de leurs enquêtes sur les actions de l'État ou d'autres. La propagande ne veut pas seulement informer, mais inspirer des idées. Il manipule les citoyens afin qu'ils ne se comportent pas consciemment, guidés par leurs propres intérêts, mais agissent dans l'intérêt du manipulateur (par exemple, l'État), c'est-à-dire qu'ils votent pour le candidat ou la décision «correcte», ou ignorent les problèmes évidents et ne posent pas de questions inutiles aux autorités. Dans les conditions de la liberté d'expression, tout cela ne semble pas être des choses terribles, mais dans un État autoritaire, outre la propagande, les autorités disposent d'autres leviers, comme la pression sur les médias indépendants, l'affiliation des magnats des médias au gouvernement et la possibilité d'une fraude électorale massive.en conséquence, l'effet de propagande est multiplié par plusieurs. En outre, la propagande atteint souvent ses objectifs en recherchant des ennemis illusoires, externes ou internes, et en faisant appel non pas à la raison et à la logique, mais aux sentiments (voir le terme "post-vérité »), et en raison de ces deux facteurs, la propagande étatique est parfois au bord du« discours de haine ».



De plus, comme nous le verrons plus tard, la propagande étatique moderne est sacrément efficace, possédant un vaste arsenal d'outils et de canaux. Un danger particulier est que, étant dans un flux infini d'informations, même des médias de haute qualité peuvent parfois capter de fausses informations délibérément diffusées dans l'espace médiatique par des manipulateurs. Quelques exemples des dernières années: la désinformation sur les projets de l'UE d'abolir les visas pour les hommes ukrainiens a été si souvent mentionnée dans les médias ukrainiens que les autorités du pays ont été forcées à un moment donné de réfuter officiellement, et peu avant cela, les médias allemands ont recueilli de fausses informations sur les atrocités commises à l'est de l'Ukraine.

? ?

Christopher Paul et Miriam Matthews, experts de l'ONG RAND Corporation, ont très bien répondu à ces questions. Ayant à l'esprit la propagande de l'État russe, ils affirment dans leur rapport que «la nouvelle propagande russe divertit, confond et choque le public». Et ils ont expliqué son efficacité avec les qualités suivantes: " Il est opérationnel, continu, illogique et utilise le principe de la répétition multiple ." Ils ont analysé chacune de ces caractéristiques:



1. Opérationnelle

2. Continue

3. Non logique

4. Utilise le principe de répétition.



Passons en revue chacun de ces points et considérons les mécanismes décrits par les auteurs du rapport pour l'influence de la propagande sur les destinataires de l'information.



Opératoire



Les défenseurs sont très rapides à «fabriquer» des documents parce qu'ils n'ont pas besoin de temps pour vérifier les faits, recueillir les opinions de différents camps politiques, etc. (bien que parfois, il faut du temps pour déterminer l'attitude envers certains événements). Le fait est qu'une personne est plus susceptible de croire au premier message reçu sur le sujet, et à l'avenir, lorsque des messages concurrents apparaissent, elle aura tendance à privilégier le point de vue du message reçu en premier. De plus, l'influence du premier message sur la manière de penser peut persister même si une réfutation est reçue dans le futur. Nous sommes comme un algorithme qui, une fois appris quelque chose, ne peut le désapprendre qu'avec beaucoup de difficulté.



Continu



La propagande produit des messages comme une véritable infofabctoire, ne laissant aucune lacune dans le flux des messages. Les destinataires obtiennent une image continue de tout ce qui se passe autour. Cette continuité gagne en efficacité supplémentaire grâce au caractère multicanal de la propagande moderne. Après tout, tout le monde a entendu des histoires de quelques chaînes de télévision et de sites de propagande, mais en fait, des dizaines de sites et de chaînes de télégramme faisant la promotion de la «ligne du parti», selon les auteurs du rapport. Et cette approche multicanal est très utile pour la propagande dans la réalisation de ses objectifs car les gens ont tendance à croire que les informations reçues de diverses sources sont très probablement basées sur des points de vue différents et méritent donc l'attention. Étant donné que ces canaux ont ensemble une couverture énorme, les destinataires trouvent les deux dans leur environnement,et il y a beaucoup de gens sur Internet qui approuvent ces informations, et donc la fiabilité de ces informations aux yeux du destinataire augmente. De plus, il y a un autre effet intéressant: lorsque l'intérêt du consommateur pour l'information est faible (en d'autres termes, lorsque le consommateur n'a pas le temps et l'envie de comprendre l'information), la crédibilité du message dépend plus du nombre d'arguments pour sa défense que de leur qualité.



La propagande exploite un autre bug de notre cerveau: elle reçoit sa dose de dopamine à chaque fois que l'on clique sur le bouton de lecture d'une vidéo sur Youtube, et il est très facile de «s'ajouter» à la consommation de contenu vidéo et de regarder les flux des réseaux sociaux. Une personne se trouve dans un état de flux, dont il est très difficile de sortir. C'est juste que quelqu'un s'habitue à regarder des interviews, des séries ou de courtes vidéos de vignes, et quelqu'un - des publications sur des sujets politiques et des talk-shows.



Illogique



La propagande sait changer de chaussures en déplacement, mais cela n'affecte en rien ceux qui s'associent déjà aux canaux d'information de propagande. Cela joue également un rôle dans le fait que les gens, en règle générale, sont trop paresseux pour comprendre l'information, et le fait que les gens oublient tout simplement que le présentateur de télévision a dit il y a quelques semaines exactement le contraire et que si le destinataire commence un jour à faire confiance à une certaine source, puis il cesse de critiquer les informations qu'il diffuse.



Utilise le principe de la répétition multiple



Comme vous l'avez déjà compris, la propagande exploite plusieurs bugs intéressants dans notre réflexion. L'un d'eux est «l'effet de vérité illusoire». Les gens sont plus susceptibles de percevoir une déclaration comme vraie s'ils l'ont déjà entendue que s'il s'agissait d'un tout nouveau message. L'effet de vérité illusoire provient du fait que les déclarations répétitives sont plus facilement acceptées et acceptées comme vraies. Un détail intéressant des auteurs du rapport: " Même dans le cas d'histoires ridicules et de légendes urbaines, ceux qui les ont entendues plusieurs fois ont tendance à le croire ."

Comment pouvez-vous avoir une première impression?

Photographe: René Maltete



Alors, nous avons regardé la théorie de la propagande, nous avons compris pourquoi elle est dangereuse et pourquoi elle est efficace. Imaginez des milliers, sinon des millions de vos concitoyens, à qui, jour après jour, ils expliquent qui aimer et choisir, qui haïr et persécuter - il est évident qu'une telle situation n'est pas saine pour l'État, car les citoyens doivent faire leur propre choix en fonction de leurs propres convictions. formé sur des faits véridiques. Je suis entré dans une telle situation. Et, en tant que programmeur, je voulais faire quelque chose de mes propres mains.



J'ai été particulièrement accro au fait que la propagande essaie de créer une première impression, et elle y parvient grâce à sa nature multicanal - du moins en ligne. J'ai tout de suite imaginé une personne qui, après une dure journée de travail, se connecte, ouvre des nouvelles dans son navigateur et ouvre un portail sur le flux de conscience des manipulateurs adroits. Et puis j'ai réalisé que le moyen le plus simple d'intercepter la première impression, ou plutôt d'empêcher les propagandistes de la créer, était de créer une extension pour un navigateur Web capable d'analyser les matériaux en temps réel. J'ai ouvert une page Web - j'ai reçu des analyses avec des avertissements: ici, là et ici - des signes caractéristiques de la propagande!



Plusieurs théories de la sociologie et du domaine de l'étude des médias plaident en faveur du développement d'un tel plugin.

1. , (“agenda-setting theory”), – , (, ). , , , . , , , . , – , . , , . (, check-list; ).
2. (Eli Pariser) « » („filter bubble”), , , ( ) . - , , . , , , . , , , « » („confirmation bias“): , . « » . , - , , ( «-», “echo chamber”). , , , , , . ( ).

. – . , - – - , .



, , . . NLP (Natural Language Processing), . - - - , : , - . , ,

1. ;
2. .

, ( ), , , .

, , , , . – « » « » ( «, »). , , - .

Eh bien ... c'est comme ça que ça devrait fonctionner.



Bien entendu, il existe différents formats de médias: émissions de texte, reportages vidéo, chaînes de télégrammes analytiques et talk-shows. Et chaque format a ses propres caractéristiques, qui devraient probablement être prises en compte. Ou pas? Dans tous les cas, je suggère de commencer par un format simple: des articles (c'est-à-dire des textes) sur des sites d'actualités. La personne ouvre le site et commence à lire les textes de ce site. Mettez-vous à sa place: à quoi doit-il faire attention? Comment peut-il comprendre exactement ce qui se trouve devant lui - une tentative de manipulation?



J'ai développé une méthodologie qui ne prétend pas être complète, mais qui devrait couvrir une partie essentielle des caractéristiques formelles de la propagande. Il est impossible de tout formaliser, et nous discuterons de ce point plus tard. Mais de nombreux signes peuvent être trouvés en tant qu'humain, et il est fort possible que les algorithmes puissent faire face à cette tâche.



J'ai divisé toutes les règles relatives aux signes de propagande dans les textes d'information en plusieurs catégories logiques.

Qualité de l'alimentation des matériaux

Cette catégorie contient plusieurs règles auxquelles le journalisme d'information doit adhérer.

Le contexte a-t-il été donné?

Signification : à la fin d'un texte d'actualité, vous pouvez souvent trouver une brève description des événements qui ont précédé l'événement. Par exemple, si les nouvelles contiennent des extraits de la dernière interview de Trump, il est généralement expliqué à la fin que la course à la présidentielle se déroule actuellement aux États-Unis et, selon les sondages sociologiques, jusqu'à présent, le leadership est avec quelqu'un d'autre, et cette personne pense comme ça.



Critique : Tous les événements n'ont pas de contexte - certains d'entre eux se produisent simplement. Par exemple, l'explosion à Beyrouth.



Automatisation :

• Il peut s'agir de mots clés tels que «rappelez-vous cela».
• Vous pouvez essayer d'automatiser l'extraction de la signification principale des articles de la publication, et conserver ces thèses principales pendant un certain temps. Lorsque de nouveaux articles apparaissent, les derniers paragraphes sont également réduits aux thèses principales, et la recherche des thèses les plus similaires est effectuée dans la base de données des publications antérieures de cette édition. Si aucun n'a été trouvé, soit l'événement est complètement nouveau, soit le contexte n'a pas été donné.
• Comme tous les événements ne peuvent pas avoir un contexte, son absence à la fin de l'article n'est pas un critère strict, et s'il y a une absence supposée de contexte, un avertissement doit être affiché, pas une "alarme".

Disponibilité des sources

Signification :

• Une règle générale: s'il y a des informations, il faut dire d'où elles viennent - après tout, les informations ont toujours une source.
• Si l'article contient un lien vers une source d'information (par exemple, un politicien ou un autre média), un hyperlien doit être fourni.

Critique :

• Que faire des sources anonymes (sans lesquelles le journalisme ne peut exister)? Que faire du journalisme d'investigation (dont le format est différent de celui des nouvelles)?
• Toutes les sources peuvent ne pas avoir leurs propres sites. Ou, en théorie, une situation est possible dans laquelle des informations ont été diffusées à la télévision, mais pas sur Internet. Ces deux facteurs peuvent rendre les hyperliens difficiles.

Automatisation :

• L'algorithme doit être capable de déterminer la présence de sources d'informations dans le texte. Soit par mots-clés: "rapporté", "dit", ou en utilisant des techniques de PNL.
• La vérification des hyperliens est facile;
• , , ?
• , (, ) .

Signification : si l'article est traduit en tout ou en parties, la traduction a-t-elle été faite correctement?



Critique : Il est presque impossible d'évaluer automatiquement l'exactitude d'une traduction. Puisque la manipulation peut être cachée dans le choix des mots individuels, nous avons besoin d'un algorithme très sensible aux plus petites nuances de concepts, qui, pour autant que je sache, n'existent pas encore. Cela signifie qu'il ne sera pas réaliste de trouver ce genre de manipulation dans la traduction. Mais ce que l'on peut vraiment découvrir, c'est si l'article original contenait effectivement une thèse similaire à celle de la traduction (ou a-t-il été complètement inventé?).



Automatisation : traduction soit du texte original dans la langue cible, soit vice versa, via un appel à une API, et comparaison des deux textes pour la proximité sémantique (j'espère que je l'ai appelé correctement?).

Analyse de contenu

Cette catégorie contient des actions qui peuvent être appliquées en plus de celles répertoriées dans le premier paragraphe.

En cas de conflit: toutes les parties ont-elles été entendues?

Signification : l'exemple le plus simple: si le président critique l'opposition, il serait bon que le média demande l'opinion de l'opposition à ce sujet.



Critique: une telle règle n'a pas toujours de sens. Si le président dans son ensemble dit à propos des manifestants dans les rues qu'ils sont des marionnettes de l'Occident, alors il n'est pas tout à fait clair à qui demander un avis sur cette question, et si une réponse à cette remarque ajoutera une valeur d'information au matériel. Par conséquent, il faut essayer de formaliser cette règle de manière plus rigide: par exemple, si une personne ou une organisation en particulier accuse une autre personne ou organisation particulière de quelque chose de spécifique, alors vous devez vraiment demander l'avis de l'autre partie. Mais la réaction de l'autre partie peut ne pas suivre immédiatement et est publiée quelque temps plus tard, ce qui rend encore une fois difficile le respect de cette règle.



Automatisation :

• Tout comme nous allons identifier automatiquement la source des informations, nous devons apprendre à identifier les parties au conflit (si cela est possible de manière algorithmique).
• Juste une pensée: est-il judicieux de stocker des informations sur des personnes et des organisations socialement significatives dans un graphe social? Pour comprendre de qui s'attendre à une réponse?

Comparaison: comment d'autres publications couvraient-elles le même fil d'actualité?

Signification : comparez le flux des événements de cette publication avec le flux d'autres publications.



Critique : pour être honnête, je ne vois aucune faiblesse. Si vous le trouvez, dites-moi.



Automatisation :

• Sélectionnez les principales thèses ou concepts dans le texte et recherchez ces thèses ou concepts dans d'autres publications socialement significatives (nous parlerons séparément de la manière de les définir).
• Une solution plus simple consiste à suggérer des mots clés en fonction de l'analyse du texte, pour lesquels le lecteur peut immédiatement commencer à chercher des informations supplémentaires, par exemple dans Google Actualités.

Analyse pour la manipulation

Si les catégories précédentes offraient des normes de qualité pour les informations, alors dans cette catégorie, nous parlerons directement de la manipulation intentionnelle au moyen de moyens expressifs.

Biais des journalistes

Signification : les actions manipulatrices peuvent être commises non seulement par les médias eux-mêmes, mais aussi par ceux qui sont cités par les médias. Par conséquent, il est assez bon de savoir ce que le sujet a dit plus tôt sur les phénomènes dont il parle actuellement.



Critique : toute personne a un certain ensemble d'attitudes, de valeurs et de visions du monde, c'est-à-dire que toute personne a des préjugés. Le destinataire sera-t-il aidé par la connaissance que Vyacheslav Volodin avait déjà attaqué l'Occident? Eh bien, peut-être, en utilisant l'exemple d'autres personnes, cela vous aidera à réfléchir à vos attitudes et à leur flexibilité. Qu'est-ce que tu penses?



Automatisation : Il est possible de maintenir des relations entre les acteurs dans un graphe social. Et sous les bords des graphiques, gardez les déclarations passées des sujets les uns sur les autres.

Mots marqueurs

Signification : Il y a tout un tas de mots qui peuvent trahir des manipulations ou des lacunes dans l'argumentation. Par exemple, des expressions telles que «manifestement cela» ou «nous savons tous cela».



Critique : il faut garder à l'esprit qu'il est possible que dans certains contextes de telles expressions soient appropriées («il est évident que la violence est mauvaise»). Par conséquent, ce critère peut ne pas être dur, mais doux (avertissement, pas d'alarme). En outre, le processus de création d'une base de données de mots et d'expressions similaires peut être assez coûteux en termes d'effort (vous devez probablement lire beaucoup de textes).



Automatisation : recherche par mots (et leurs déclinaisons) et expressions (et sémantiquement très proches d'eux). La recherche peut être effectuée à la fois par les déclarations des journalistes et par les textes en général.

Analyse des nuances de mots

Signification : J'ai appelé cette fonction de cette façon parce que ce nom transmet le plus étroitement sa signification. Y a-t-il une différence entre dire «les manifestants sont descendus dans la rue» ou «les manifestants ont envahi les rues»? Très souvent, les manipulations consistent précisément en l'utilisation d'un certain vocabulaire, que l'on peut probablement qualifier d '«évaluatif». Autrement dit, il n'y a pas seulement une déclaration du fait, mais une certaine évaluation de ce fait est immédiatement donnée.



Critique : Cela devrait être une tâche difficile pour l'algorithme, mais j'ai trouvé une autre solution (qui, cependant, n'est pas non plus facile - voir ci-dessous).



Automatisation: Les psycholinguistes ont développé un modèle appelé le modèle de catégorie linguistique, qui a un outil tel qu'une «échelle de concret / abstrait». Pour comprendre comment cela fonctionne, examinons les déclarations suivantes:

• – .

Bien sûr, j'exagère et me pardonne, linguistes, si j'ai cité des formulations qui ne sont pas tout à fait correctes du point de vue de cette théorie, mais le sens général est quelque chose comme ceci: il y a 4 niveaux de concret / abstrait, de la formulation la plus concrète (factuelle) à la plus abstraite (évaluative ).



Afin d'appliquer ce modèle à l'analyse de textes, il serait possible de créer un balisage de concepts. Comme il est probablement irréaliste de créer un balisage pour toutes les situations linguistiques, et ce n'est même pas nécessaire, nous pouvons nous concentrer précisément sur le discours politique, en créant un balisage pour des situations souvent rencontrées dans le domaine politique et médiatique. Autrement dit, ce sera quelque chose comme une base de synonymes, dans laquelle chaque mot a son propre «combat» à partir d'autres niveaux de l'échelle du concret / abstrait.

Récits de propagande d'État

Signification : J'ai déjà dit que je m'intéresse principalement à la propagande d'État, et bien que tous les points précédents puissent être utilisés pour rechercher n'importe quelle propagande, je dédie ce point à la propagande d'État. Le fait est que l'ensemble des intrigues que la propagande d'État utilise dans ses documents est assez limité et est rarement reconstitué avec de nouvelles intrigues. Depuis combien d'années avons-nous entendu parler de "marionnettes et services spéciaux de l'Occident" ou de "nationalistes ukrainiens"? Autrement dit, de nouveaux mini-motifs, bien sûr, apparaissent («le coma diabétique de Navalny»), mais à un niveau d'abstraction plus élevé, en règle générale, ce sont tous les mêmes vieux motifs qui existaient il y a un an et cinq ans.



Critique : introuvable. Si vous le trouvez, dites-moi.



Automatisation :

• , . , . , .
• .

Référence :



Quelques années après la Révolution d'octobre 1917, le poète pour enfants Kornei Tchoukovski écrivait: « Le peuple soviétique se souvient avec la plus grande fierté de la façon dont la révolution a miraculeusement renouvelé notre langue. Elle l'a nettoyé de mots aussi répugnants qu'un juif, un petit russe, un étranger, des gens ordinaires, un paysan, etc. Des mots actifs ils sont immédiatement devenus des archives . " Malheureusement, il avait tort, car tous ces mots n’ont pas été éradiqués et beaucoup ont été remplacés par des mots encore plus offensants.



Les mots, que l'écrivain pour enfants a énumérés, font référence au lexique du soi-disant «discours de haine» (expression synonyme - «rhétorique de la haine»). Il n'y a pas de définition généralement acceptée du «discours de haine» dans le droit international, mais fondamentalement ce terme est interprété dans le contexte de la haine des personnes qui ont les soi-disant «caractéristiques protégées» - ce sont des caractéristiques personnelles pour lesquelles vous ne pouvez pas faire l'objet de discrimination: race, couleur de peau, sexe langue, religion, opinion politique ou autre, origine nationale ou sociale, propriété, âge, naissance, origine ou identité autochtone avec un peuple autochtone, handicap, statut de migrant ou de réfugié, orientation sexuelle, identité de genre ou variation intersexe.



En général, il s'agit d'une catégorie assez large de fonctionnalités. L'hostilité, en revanche, est «un sentiment intense et irrationnel de condamnation et de dégoût envers un individu ou un groupe choisi comme objet en raison de la possession de certaines caractéristiques protégées - réelles ou attribuées - (reconnues par le droit international). L '«hostilité» est plus qu'un biais, et elle est nécessairement discriminatoire. "Feud" est une manifestation d'un état émotionnel ou d'une opinion et est donc différente de toute action manifeste. " Et c'est un point important - l'utilisation du «discours de haine» ne conduit pas nécessairement directement à des conséquences spécifiques. Autrement dit, lorsque vous entendez «massacrons les Hobbits», vous comprenez que l'appel au génocide retentit. Et comment se rapporter à l'évaluation «notre pourri, corrompu,opposition puante "(les deux formulations sont inventées, les coïncidences sont accidentelles)? Il n'y a pas d'appel à l'action, si quelqu'un va volontairement faire quelque chose avec l'opposition, alors il sera problématique de trouver un lien entre ses actions et l'évaluation donnée par quelqu'un de personnalités publiques, et néanmoins, cette évaluation semble au moins biaisée, mais juger émotionnellement, cela pourrait bien être de l'hostilité.



En général, il est difficile de trouver des interprétations et des limites claires de ces termes. Par exemple, un langage profondément offensant ne fait pas automatiquement référence au discours de haine - s'il ne sonne pas en relation avec un objet précisément en raison de ses caractéristiques protégées. Dans le contexte du "discours de haine", les termes "dans le groupe" et "hors du groupe" sont souvent entendus - c'est-à-dire que l'utilisation de "discours de haine" signifie une sorte de confrontation entre deux groupes, la présence d'une division en "amis" et "étrangers". Mais il existe également des classifications plus claires du «discours de haine». Selon l'un d'eux, formulé par le chercheur Verkhovsky (Verkhovsky A. M.: "Ma langue ... Le problème de l'intolérance ethnique et religieuse dans les médias russes"), il existe trois grandes catégories de discours de haine:

• sévère (par exemple, incitation directe à la violence)
• médium (par exemple, accuser l'influence négative d'un groupe social sur la société, l'État ou justifier des cas historiques de discrimination et de violence)
• et doux (par exemple, affirmer les défauts moraux d'un groupe ethnique ou mentionner des noms de groupes ethniques dans un contexte désobligeant).

Par conséquent, les ethnophilismes si aimés de tous (surnoms offensants de représentants d'autres peuples) sont aussi des discours de haine.



Signification : le texte médiatique ne doit pas contenir de discours de haine. Pas du matériel journalistique, pas un reportage, pas seulement une chronique avec l'opinion de l'auteur.



Critique: Même les représentants des ONG, dont j'ai cité le rapport ci-dessus, admettent qu'il existe des contextes dans lesquels le discours de haine ne doit pas être puni. Par exemple, lorsque l'intention peut être soit plus frivole (par exemple, un commentaire mal conçu ou frivole sur les médias sociaux) ou plus complexe (satire ou provoquer une discussion sur une question difficile, par exemple à travers l'art) qu'un acte d'inimitié. Autrement dit, il peut être assez difficile de déterminer en toute confiance le discours de haine, d'autant plus que les critères des différents chercheurs diffèrent (certains attribuent le déni d'événements historiques au discours de haine, tandis que d'autres non).



Automatisation: Création d'une base d'expressions liées au discours de haine. Vous pouvez créer une base de données de tous les mots et expressions offensants, et bien que cela puisse compliquer la tâche de collecte de données, cela simplifiera la recherche dans le texte d'expressions qui manipulent l'opinion du destinataire sur une personne ou un groupe de personnes. Ensuite, la fonction ne s'appellera pas «recherche de discours de haine», mais «recherche d'expressions expressives» ou quelque chose du genre. Cependant, on ne sait pas très bien quoi faire avec L'Idiot de Dostoïevski dans ce cas.

Base de données des timbres linguistiques de la propagande d'État

Signification : dans les textes de propagande d'État, vous pouvez souvent trouver des expressions communes qui sont caractéristiques de ce genre particulier. Par exemple, "un rassemblement a été organisé pour soutenir le cours politique actuel du pays".



Critique : Il est difficile de trouver de telles expressions et de s'assurer qu'elles ont été utilisées dans le discours de propagande. De plus, nous ne pouvons pas supposer que ces expressions sont toujours utilisées uniquement dans les médias de propagande. Ce critère est peut-être redondant, mais si son opportunité est néanmoins prouvée, alors il devrait être un critère «souple» de propagande.



Automatisation: Comme dans le paragraphe précédent, je ne sais pas dans quel format ces expressions doivent être enregistrées. Après tout, nous avons probablement besoin de déclinaisons / conjugaisons si nous voulons rechercher par expressions marqueurs? Si nous suivons le chemin de l'apprentissage de l'algorithme, avons-nous besoin d'un corpus de texte? Désolé, comme je l'ai dit, je suis un profane en linguistique computationnelle.

Analyse des sentiments

Signification : la propagande, comme nous l'avons découvert, tente d'influencer les émotions. Il évoque souvent des émotions négatives non pas à cause de la présentation d'un fait accompli (colère à cause du passage à tabac d'une personne), mais à cause de l'interprétation, du blâme et des jugements de valeur.



Critique : Je ne sais pas à quel point les algorithmes modernes d'analyse des sentiments sont bons et quelles sont leurs limites (par exemple, la taille des textes) pour garantir de bons résultats.



Automatisation : analyse du sentiment par paragraphes, chapitres ou tout le texte, et si le négatif a été trouvé, alors la question à l'utilisateur: "Vous ressentez probablement X. A cause d'un fait accompli ou de l'interprétation de quelqu'un par rapport à Y)?"

Analyse de la qualité des médias

Cette catégorie contient plusieurs suggestions sur la manière d'évaluer la «qualité» des médias. La qualité signifie la mesure dans laquelle le média répond aux critères décrits ci-dessus pour la qualité de la présentation du matériel et l'honnêteté aux destinataires (c'est-à-dire lorsqu'il n'essaye pas de les manipuler).

Ignorer les événements

Signification : assez souvent, les ressources de propagande ignorent simplement certains événements, de sorte que ces événements n'existent pas dans leur «monde», et les destinataires n'apprennent pas certains événements dont le manipulateur ne veut pas qu'ils soient informés. Par exemple, les médias d'État russes ont longtemps ignoré la présence d'une figure de l'opposition telle qu'Alexei Navalny.



Critique : cela soulève la question de savoir comment définir les événements socialement significatifs. Vous devez également prendre en compte le fait que les médias peuvent avoir une sorte de spécialisation - par exemple, l'économie et la finance. Dans ce cas, le journal économique peut ne pas mentionner l'événement dans la vie politique. Pour tenir compte de ces nuances, il sera nécessaire de procéder à une classification objective des médias sur la base de certains critères transparents, ce qui, pour un certain nombre de raisons, ne sera pas une tâche aussi facile.



Automatisation: extraire la signification principale de chaque média  comparer ces «bandes» de différents médias et identifier les événements socialement significatifs  vérifier si le média donné a écrit sur cet événement. Pour être honnête, je ne sais pas comment donner vie à cette idée.

Analysez les histoires médiatiques passées pour trouver des modèles

Signification : il est difficile de caractériser les médias sur la base d'un ou plusieurs matériaux. Il est également problématique de donner une fois aux médias une étiquette de «qualité», car la rédaction peut changer. Il est donc nécessaire de caractériser les milieux par un certain nombre des N derniers matériaux. Voici les aspects pour analyser les supports médiatiques dans un certain continuum temporel:

• Biais envers les informations des agences gouvernementales; manque de matériel où l'opinion de l'opposition ou des gens ordinaires est présentée;
• Utilisation antérieure de récits de propagande ou de discours de haine dans des documents journalistiques
• Violation systématique des normes de qualité pour la présentation des matériaux

Critique : je n'ai pas trouvé de "points faibles".



Automatisation : sauvegarde des caractéristiques détectées par les fonctions ci-dessus dans le format de série chronologique ou autre. Peut-être que l'utilisateur peut également enregistrer lui-même certaines notes.



Raison 1: Vous pouvez créer une liste plus large de critères de qualité des médias, sur la base desquels les utilisateurs du plug-in ou un groupe d'experts (même si je préconise l'ouverture de toutes les listes, procédures et données) évalueront les médias.



2: , . : , 33 «» 170 « ». , : « ...». , , , , . , .

Il existe une différence objective entre les différents formats de média, ce qui crée les conditions préalables pour définir des fonctions distinctes pour certains formats. Par exemple, dans les talk-shows ou d'autres formats vidéo et audio, vous pouvez essayer d'analyser la voix des gens et mesurer leur volume (après tout, nous nous souvenons que la propagande aime attiser, faire pression sur les émotions - et c'est pourquoi ils crient tant dans les talk-shows politiques). Certains formats sont difficiles à analyser automatiquement. Par exemple, les actualités vidéo, car même une personne ne pourra pas toujours reconnaître la manipulation dans un rapport (c'est pourquoi j'en déduire la règle d'or - «ne pas faire confiance à la vidéo éditée - uniquement les sources primaires, données sans commentaires»).



À tous autres égards, je ne suis pas enclin à voir la différence de format. C'est, bien sûr, ça l'est. Par exemple, dans les chaînes de télégrammes, les jugements de valeur se trouvent à travers le mot - c'est souvent leur «sel», tandis que dans les informations d'une rédaction sérieuse, ils seront inappropriés en dehors des citations directes. Mais cette différence est insignifiante pour l'utilisateur, car notre objectif est de lui apprendre à reconnaître les manipulations, et quand il apprendra, il pourra comprendre la différence de formats sans notre plug-in et choisir une présentation acceptable des informations.

Conclusion

Je voudrais terminer le matériel par quelques remarques importantes.

1. Le but du plugin est de sensibiliser les gens à la lecture des actualités, de leur apprendre à identifier les manipulations par des moyens expressifs et autres.
2. Je veux faire cela à travers des règles aussi formalisées que possible. Bien sûr, tout ne peut pas être formalisé, et très souvent nous reconnaissons la propagande, comme on dit, «dans un complexe».
3. Le plugin est extensible. Par exemple, vous pouvez créer un système complet pour évaluer les médias et même les journalistes individuels, les blogueurs et les auteurs en général (par exemple, les auteurs d'articles sur Telegram). Autrement dit, chaque utilisateur du plugin pourra évaluer le média ou l'auteur, et ces évaluations seront agrégées dans une sorte de classification pour les médias et les auteurs. Mais c'est tout plus tard.