IT Text 自然言語処理の基礎

« IT Text : Les bases du traitement du langage naturel » (par Naoki Okazaki, Yuki Arase, Jun Suzuki, Keiga Tsuruoka et Yusuke Miyao, Ohmsha, 2022) est un ouvrage permettant d’étudier de manière systématique le traitement du langage naturel à l’ère des « grands modèles de langage » (LLM). Tout en abordant de manière approfondie les connaissances fondamentales telles que l’analyse morphologique et l’hypothèse de distribution, la majeure partie de l’ouvrage est consacrée aux techniques reposant sur l’apprentissage profond ; je pense donc qu’il s’agit d’un ouvrage d’introduction idéal pour l’ère des LLM. À l’inverse, je ne recommande pas de s’initier à ce domaine à l’aide d’ouvrages sur le traitement du langage naturel antérieurs à celui-ci. Si son contenu n’est pas dépassé malgré une publication antérieure à ChatGPT, c’est sans doute grâce aux analyses approfondies de ses auteurs de renom. Cela dit, les méthodes qui se sont généralisées depuis l’avènement de ChatGPT, telles que l’inférence « zero-shot », y sont peu abordées. Pour ces sujets, l’ouvrage suivant, « Introduction aux modèles linguistiques à grande échelle », constituera une bonne référence.