Comment moi, un spécialiste de l'IA, j'ai acheté du texte sur l'IA

Aujourd'hui, je vais chez Habr, et, sous une tasse de thé, feuillette l'article " GPT-3 d'OpenAI peut devenir la meilleure chose depuis l'époque du Bitcoin ."



Si vous ne l'avez pas lu, lisez-le. La fin évoque des émotions vraiment fortes. Pour moi, ils ont été aggravés par le fait que je suis relativement professionnellement engagé dans l'IA, la génération de texte et le problème des significations - donc j'ai raisonnablement cru que je pouvais facilement reconnaître le texte généré par une machine ...



Oui, oui, je l'ai acheté. Le texte de l'article "GPT-3 d'OpenAI pourrait être la plus grande chose puisque Bitcoin" a (peut-être) été créé par l'IA, mais je ne l'ai pas vu, malgré le fait que, en général, je le fais professionnellement et connais les techniques de base utilisées dans la machine générer du texte.



Après le sommeil de mon premier choc léger, je voudrais partager un certain nombre de considérations.

Il ne s’agit pas de texte machine, mais de texte traité par l’homme

Peut-être que la première réaction au texte a été le déni, le refus d'accepter que ce texte ait été fait par une machine. Mon cerveau a commencé à un rythme effréné pour trouver un argument approprié pour cela. De manière générale, je les considère moi-même plutôt faibles, mais je veux tout de même les citer:

• On ne sait pas combien de pour cent du texte et comment l'auteur l'a édité . Il existe des exemples de texte qui semble avoir été créé par une machine, mais corrigé par une personne - par exemple, il y avait une fois une histoire sur un script de film / livre réalisé par l'IA. La subtilité était toujours dans les détails - si vous lisez la critique, il a toujours été dit quelque chose dans l'esprit que l'IA a fait le début de l'histoire, puis un groupe d'écrivains l'a finalisée . J'ai toujours attribué la qualité du résultat au fait que les écrivains ont simplement apporté leur propre sens à la finalisation, car dans les peintures abstraites, avec un fort désir, on peut trouver quelque chose . Peut-être que cet argument ne fonctionne pas ici, puisque, selon les assurances de l'auteur, il a seulement corrigé la mise en forme du texte.
• . , , . , « ?» . , , .
• . , , . GPT-2, , - . - , , , . , «» GPT-3 , …

Cependant, je suis également prêt à admettre que ces arguments sont plutôt faibles et que la machine peut en effet maintenant créer des textes d'information relativement longs similaires à des textes humains.



J'ai mis ma tasse de thé de côté et j'ai pensé: «Qu'est-ce que cela signifie? Quelle leçon puis-je tirer de cette histoire? Puis-je maintenant donner au moins quelques conseils sur la capacité de distinguer les bons textes des mauvais ou sans signification? "

Institut de réputation et vérification des faits

Revenant aux émotions qui ont surgi au cours du processus de lecture, je me suis souvenu que le fragment de l'article, après quoi j'ai commencé à «croire» à ce qui se passait, était une description de l'expérience sur le forum bitcointalk. Le début de l'article ne m'a pas dérangé - il est consacré aux faits sur la création de GPT-3, et je suis déjà habitué au fait que de tels faits ne disent rien sur l'auteur ou sa compréhension du sujet, puisqu'ils peuvent être empruntés de n'importe où.



Mais la description de l'expérience était intéressante. En fait, il a créé le "contenu" de l'article - les règles de publication, la réaction des autres personnes du forum ...



... et par conséquent, nous comprenons qu'il n'y a pas eu d'expérience.



Cela m'a conduit à des réflexions intéressantes. J'ai écrit il y a longtemps sur la modélisation des cycles économiques basés sur la croissance de la confiance... L'essentiel est que la croissance ne se produit que tant que les obligations des parties sont remplies - ou, plus simplement, si je vous dis "Je vous expédierai ce produit dans une semaine au prix de X", vous me faites confiance et je le ferai vraiment. Tout est basé uniquement sur la confiance - si vous ne me faites pas confiance, ou si je vais vous tromper, nous pouvons bien sûr essayer de résoudre l'affaire par le tribunal, mais cela s'accompagnera de frais HELLO. Imaginez ce que ce serait si chaque achat de yaourt dans un magasin était accompagné d'une sérieuse possibilité de litige ...



Et nous arrivons ici, à mon avis, à un grave problème du monde moderne. En un sens, il ne nous reste presque plus d’institutions de réputation en ce qui concerne les mots et les textes, ce qui signifie que nous ne savons pas vraiment à qui nous pouvons faire confiance .



Imaginez qu'un représentant d'un opérateur cellulaire vous appelle. Ou une banque. Avec une nouvelle offre unique et avantageuse pour vous. Croirez-vous que cela vous est bénéfique?



Les médias peuvent accidentellement mettre la «mauvaise» photo. Ils peuvent considérer la situation d'un seul côté. Postez un article provocateur sur la page principale avec une petite inscription en bas «Ceci est la chronique de l'auteur. L'opinion de l'auteur peut ne pas coïncider avec l'avis du comité de rédaction. " Ils peuvent se référer à un professeur inconnu de l'Institut mondial de Kukuevo avec les mots "Les scientifiques ont appris ..." Et ils n'obtiendront rien pour cela. Dans le pire des cas, ils se plaindront du manque de vérification des faits et publieront peut-être une réfutation dans un coin où vous ne la trouverez jamais après quelques mois.



Même la présence de personnes «compétentes» n'aide pas. Peut-être, je me souviens le mieux de toute l'histoire de la société Theranos ( sur Habré ), qui promettait une révolution presque médicale et réunissait un conseil d'administration impressionnant (le conseil d'administration de la société comprenait des personnalités aussi célèbres que les anciens secrétaires d'État américains Henry Kissinger et George Schultz). Il semblait à tout le monde que de telles personnes ne pouvaient pas se tromper - mais en fait, elles se fondaient également sur des assurances verbales, alors que la technologie, en fait, ne fonctionnait pas. Ne pensez pas que vous pouvez faire confiance à quelque chose même si vous y avez investi 700 millions de dollars.



Malheureusement, le fait est que maintenant nous ne pouvons plus faire confiance à l'opinion de quelqu'un d'autre. La réputation coûte très peu et est volontiers échangée contre de l'argent. En fait, notre famille et nos proches restent le seul bon espace de confiance - et heureusement, les idées de marketing de réseau (Oriflame, etc.), exploitant la confiance personnelle, ont plus ou moins disparu de nos vies.



Mais revenons à l'article ... J'ai tiré deux conclusions pour moi-même:

• . – , / . . , , . , – . . ( , . GPT-2, , , )
• , . , - « , ; , …». , , – , , .

Fluidité du texte et du dialogue

Je rassemble ma collection de textes générés et leurs générateurs. Mais je ne suis pas très intéressé à discuter de la façon dont les textes générés et les faux affecteront la société - bien que ce sujet puisse être bien payé. Pour moi, chaque exemple de texte généré est une question: "Quelle partie de la pensée humaine avons-nous pu formaliser?" Et "qu'est-ce qui est resté inconnu et est encore l'apanage d'une personne?"



GPT-3 et les réseaux de neurones modernes, puisqu'ils s'entraînent sur des textes, et non sur les significations incluses dans ces textes, sont de lointains descendants de la génération de textes dus aux réseaux N-grammes ou Markov, qui sont vraisemblablement utilisés dans Yandex.Abstracts . Si vous regardez les principes sous-jacents et des exemples de textes générés, vous pouvez introduire plusieurs règles importantes:

• . , . (.) 4-7 , GPT-3, , , . , – , , .
• . , , , . - , «, » « Apple, , ». , . !
• . « , , » « , » .

En outre, je voudrais dire séparément sur le dialogue avec l'IA. En particulier, tout enseignant sait que rien ne peut être dit sur ses connaissances à partir du résumé fourni par l'élève. Mais si vous lui parlez pendant 5 à 10 minutes, il est facile de comprendre s'il «tâtonne» ou non.



Dans mon article sur les chatbots, je mentionne que le principal problème de l'IA est désormais de prendre en compte le contexte du dialogue et de comprendre l'interlocuteur.... Il est facile d'imaginer une IA qui répond bien à une phrase spécifique - mais cela ressemble à une personne qui a un peu entendu parler de tout, mais qui n'en comprend pas l'essence. Parmi les étudiants, il y en a aussi - réagir aux phrases clés. Si vous ne touchez pas à des sujets complexes, n'évaluez pas les connaissances et la compréhension personnelles, vous pouvez avoir le sentiment que l'interlocuteur est un intellectuel et sait de quoi il parle, bien qu'en fait il ne répète que les vérités qu'il a entendues quelque part .



L'homme n'est évidemment pas déterminé par ce qu'il dit. Une personne est déterminée par le fait qu'elle peut agir en fonction de ses croyances. Il peut analyser son expérience ou percevoir l'expérience d'une autre personne.



Il n'est PAS exclusivement engagé dans des conversations, sans assumer aucune responsabilité pour ses propos.