本文の数字を出典と機械で照合するとは、記事やデータのページに書いた数字と固有名詞を抜き出し、取得したときに保存しておいた出典の表と、プログラムで突き合わせることです。合わなかったものだけを人が見ます。
目で見比べるだけだと、「12,450」と「12,540」のような桁の入れ替わりや、前の年の表から写した数字を見落とします。数字の多いページほど、人の目だけでは追いつきません。出典の書き方は出典の書き方に、データを取り直す流れはデータの取り直しに書いたので、ここでは公開前の突き合わせに絞ります。
照合は、どの順番で進める?
| 順番 |
やること |
| 1 |
出典の表を、取得した日ごとに保存しておく |
| 2 |
本文から数字と固有名詞を、前後の言葉と一緒に抜き出す |
| 3 |
両方の表記をそろえる(正規化) |
| 4 |
出典の表の中に、同じ値があるかを探す |
| 5 |
合わなかったものを一覧にして、人が見る |
| 6 |
照合した日と結果を、数字ごとに残す |
1が無いと、照合はできません。出典のページは後から書き換わるので、本文を書いた日に見た表と、照合する日に開いた表が違うことがあります。取得したファイルを日付ごとに残しておき、その版と比べます。
Googleの有用なコンテンツの説明には、自己評価の質問として次のものがあります。
コンテンツに明らかな事実誤認はありませんか。
照合は、この質問に、ページの数字ごとに答えられるようにする作業です。
本文から、何を抜き出す?
抜き出すのは、数字と、その数字が何の値かを示す前後の言葉です。「離職率は8.2%」なら、「8.2」「%」「離職率」を組で取ります。数字だけを抜き出すと、出典の表のどこかに同じ数字があれば、別の項目の値でも合ったことになってしまいます。
固有名詞も対象にします。会社名、製品の型番、調査の名前、省庁の名前です。型番は1文字違うと別の製品なので、数字と同じ扱いで突き合わせます。
日本語の照合は、切り方で失敗する
日本語は語の区切りが無いので、本文のどこからどこまでを1つの語と見るかで結果が変わります。私たちは、暦のメディア(oshiounki.jp)で、検索されている語がページ本文に書かれているかを機械で照合したとき、2回失敗しました。
- 語を丸ごと探すと、「母倉日読み方」のような連結語を取りこぼした
- 2字ずつに割ると、語のつなぎ目で94件の誤検出が出た
最後は、本文にある最長のかたまりを左から取り、残った2字以上だけを抜けとする方法に落ち着きました。数字の照合でも、何を1つの単位として比べるかを先に決めないと、同じ失敗をします。
比べる前に、表記をそろえる
本文と出典では、同じ数字でも書き方が違います。
- 全角と半角:「12,450」と「12,450」
- カンマの有無:「12,450」と「12450」
- 単位の書き方:「㎜」と「mm」、「%」と「%」
- 換算:「1.2万」と「12,000」
そろえるのに使えるのが、Unicodeの正規化のNFKCです。Pythonではunicodedataのnormalize関数で使えます。私たちが手元で試すと、「12,345」は「12,345」に、半角のカタカナ「ガスケット」は「ガスケット」になりました。そのあとでカンマを取り除けば、数として比べられます。
そろえすぎと、そろわない文字
NFKCは、見た目の違う文字をまとめて変えます。同じ試しで、「㎡」は「m2」に、「①」は「1」に、ローマ数字の「Ⅱ」は「II」になりました。単位の列で「m2」が出てきたら面積の意味で残っているかを、番号の付いた箇条書きなら数字が本文に紛れ込んでいないかを確かめます。
逆に、そろわない文字もあります。全角のハイフン「-」は半角の「-」になりましたが、数学のマイナス記号「−」(U+2212)はそのまま残りました。マイナスの値を比べる列では、どちらも同じ記号に置き換える処理を足します。こうした置き換えの決まりは1か所にまとめます。会社名の表記をそろえる手順は名寄せとはに書きました。
合わなかったときに、人が見る所
機械で合わなかった数字が、すべて間違いとは限りません。合わない理由は、だいたい次のどれかです。
| 合わない理由 |
人が確かめること |
| 写し間違い |
出典の値に直す |
| 別の年・別の表の値 |
本文の時点と出典の時点 |
| 四捨五入・換算した値 |
丸め方と単位がそろっているか |
| 自分たちで計算した値 |
計算の元の値と式 |
| 出典の側が更新された |
本文を直すか、時点を書き足すか |
自分たちで計算した値(県の平均、前の年からの差、割合)は、出典の表にそのままの形では載っていません。計算した値は、元の値と式を一緒に持っておき、機械は元の値を出典と照合し、式は人が確かめます。本文で「〇〇をもとに当社で計算」と書き分けるのは、出典の書き方の記事で扱った「加工して作成」と同じ考え方です。
合った数字も、文脈は人が読む
数字が出典の表にあっても、本文が別の意味で使っていることがあります。「従業員の8.2%」と書いたのに、出典の8.2は「女性の管理職の割合」だった、という場合です。前後の言葉を組で取っておけば、項目名が違う組を機械で拾えます。最後に、合わなかった組と、項目名の違う組を人が読みます。
照合は、いつ回す?
照合は、記事を書き終えたときに1回回して終わりではありません。回す場面は、少なくとも3つあります。
- 公開する前:本文の数字が、書いた日に見た出典の版と合っているか
- 出典を取り直したとき:前の版で合っていた数字が、新しい版でも合っているか
- ページの型を変えたとき:表示の桁や単位の付け方を変えて、ずれが出ていないか
2つ目がいちばん見落としやすい場面です。出典の数字が更新されると、本文の数字は前の版では正しく、新しい版では古い数字になります。間違いではありませんが、時点を書いていなければ、読む人には古い数字か写し間違いかが分かりません。新しい版と合わなかった数字は、本文を新しい値に直すか、時点を書き足すかを人が決めます。
3つ目は、データから組み立てるページで起きます。テンプレートで小数の桁を1つ減らすと、全ページで値が丸められます。型を変えたら、数ページを選んで照合し直します。
年と年度の取り違えも、機械で拾う
統計には、暦の年(1月〜12月)で集計したものと、年度(4月〜翌年3月)で集計したものがあります。本文に「2024年の数字」と書いて、出典が「2024年度」なら、値は合っていても時点がずれています。前後の言葉を組で取っておけば、「年」と「年度」の違いも照合の対象にできます。
照合した日を、数字ごとに残す
照合の結果は、数字ごとに1行で残します。
- 本文の数字と、前後の言葉
- 出典のURLと、表の名前
- 出典を取得した日と、照合した日
- 合ったか、合わなかったか、人が見た結果
ページには、数字の近くに出典と時点を書きます。記録のほうには、照合した日を書いておきます。出典が更新されたら、その出典を使っている数字の行を記録から引き出せば、照合し直す対象が分かります。数字と出どころと日付を1行にまとめて残すやり方は、社内の判断に使う数字でも同じです。
空欄や秘匿の記号は、照合の前に、値の列と理由の列に分けておきます。記号のまま比べると、「-」どうしが一致したことになります。空欄の分け方はデータの空欄の見せ方にまとめています。データで作るサイトの全体はデータベース型サイトから読めます。
仕様・出典の確認日:2026年10月26日。