Huney

応用情報(AP) / オートマトンと形式言語

字句解析

字句解析とは、ソースコードなどの文字列を、トークンと呼ばれる意味のある単位へ分割する処理です。

字句解析

正式名称

Lexical Analysis(レキシカルアナリシス)

一言でいうと

ソースコードを意味のある部品へ分ける処理

初心者向け説明

字句解析とは、ソースコードをトークンと呼ばれる意味のある単位へ分割する処理です。

例えば、

total = price + tax;

というソースコードを、

total
=
price
+
tax
;

のように分割します。

さらに、

total → 識別子
=     → 演算子
price → 識別子
+     → 演算子
tax   → 識別子
;     → 記号

のように分類します。

字句解析のあとに、トークンの並び方を調べる構文解析が行われます。

ポイント

  • ソースコードをトークンへ分割する
  • 正規表現や有限オートマトンと関係する
  • 構文解析より前に行われる

関連用語

関連記事

  • 形式言語とは?正規表現・字句解析・構文解析を基礎から理解しよう

🍯 はちみつメモ

字句解析 = ソースコードを意味のある部品へ分割する