Pourquoi l'apprentissage automatique a-t-il du mal à établir un lien de causalité?


Cet article fait partie de nos aperçus de recherche sur l'IA , une série de publications qui explorent les dernières découvertes en intelligence artificielle.





, - . , , , , , . , .





, , , .





, , . -, . , , , - ( causality ) . , , . , , . - , , .





« » , (Mila) Google Research , - , .





, - , , .





?





« , : , , - , », - . « , (i.i.d. - independent and identically distributed data)».





iid - , . , . iid - . , .





, , iid, . , . - , . , , , , , .





Objets dans les ensembles de données d'entraînement par rapport aux objets du monde réel (source: objectnet.dev).
(: objectnet.dev).

. , , . , , . - - . , , .





« iid- , - () », - .





. , (RTS), ​​ Warcraft, StarCraft Age of Empires. , . , , ( ) (, ).





« , , , , », - .





, iid , ? , , . , , , . , .





iid : , , , . , . , , ImageNet, CIFAR-10 MNIST. , COVIDx covid-19 (Wisconsin Breast Cancer Diagnosis). : , .





, , . , , , - . .





, - . , , . , , , .





, , (counterfactuals). , , . , .





- (adversarial attacks), , . « iid, », - , , . , - .





Les attaques adverses ciblent la sensibilité iid de l'apprentissage automatique.  Dans cette image, l'ajout d'une couche subtile de bruit à l'image du panda fait que le réseau neuronal convolutif le prend pour un gibbon.
iid. .

- . « , ( iid ) ( iid-) », - .





-

, .





« » « ». , , .





, , , . . .





« , , ​​ », - .





, , , , . , .





, (SCM): « , SCM , , , , SCM ( ). , ».





, ( , ) .





La combinaison de graphes causaux avec l'apprentissage automatique permettra aux agents d'IA de créer des modules qui peuvent être appliqués à une variété de tâches sans une longue courbe d'apprentissage.
, .

, , , . , : «() ; () , - ; (c) - , , , ; (d) , , ».





, , . , , , , . . , , .





, , , . .





, Bengio NeurIPS 2019 AI. , . - , .





, , , - - , .





« iid - , », - . « , , ».






"Machine Learning. Advanced".





« »: ML. 20+ , , ?





- "Machine Learning. Advanced"





- « »








All Articles