専門・ビジネス　想像の仕事

AI監査人

えーあいかんさにん

企業や行政が使うAIが、不公平な扱いや誤り、個人情報の扱いで問題を起こしていないかを第三者の立場で点検し、法律や国際規格に合っているかを確かめる仕事になりそうだ。

会社や市役所では、申しこみの受付や順番決めなどにAIが使われ始めています。そのAIが、ある人たちだけを不利にあつかっていないか、まちがった答えを出していないかを、外から来た人として調べる仕事です。おかしなところを見つけたら理由を説明し、どう直せばよいかを伝えます。

今ある芽

芽が育ってきている

今ある技術や制度から見て、2050年には仕事として広がっている見込みが高いものです。今はAIの点検を、作った会社や使う組織が自分たちで行うことが多く、外部の専門家として点検する仕事はまだ少ない。法律や国際規格で第三者の確認が求められる場面が増え、取引や入札の条件にもなっていけば、会計監査のように一つの職業として定着しそうだ。

EUのAI法が発効したEUのAI法が2024年8月に発効し、リスクの高いAIには基準に合っているかの確認が段階的に義務づけられる。EUで事業をする日本の企業にも関係し、確認を担う人の需要につながる。出典：EU Artificial Intelligence Act Published（A&O Shearman）
AI管理の国際規格で認証が始まったAIの管理体制についての国際規格ISO/IEC 42001にもとづく第三者認証が、各国の認証機関で始まっている。品質や情報セキュリティの認証と同じように、AIにも外部の審査が入る流れができつつある。出典：DNV issues the first ISO/IEC 42001 certificate in the Netherlands to Metyis（DNV）

2050年、どんな仕事をしている？

2050年想像の仕事

AIの使われ方の棚卸し組織のどの業務でどのAIが使われ、誰の判断にどれだけ影響しているかを一覧にし、点検の優先順位を決める。
公平さの検証年齢や性別、住む地域などで結果に偏りがないかを、過去の判定の記録と統計の手法で調べる。
学習データと記録の確認AIが何のデータで作られ、いつ更新されたか、判断の記録が後から追えるように残されているかを確かめる。
担当者への聞き取りAIの結果を人がどう確かめて最終判断しているか、問題が起きたとき誰に報告するのかを現場の職員に聞く。
監査報告と改善の提案見つかった問題の重さと根拠を報告書にまとめ、期限を決めた改善案を組織の責任者に説明する。

2050年の一日

2050年架空の一日

2050年、AI監査人の一日（架空）

出張先の市役所の会議室には、三日分の資料が積まれていた。監査法人でAIの監査を担当する拓也は三十四歳。今回の対象は、保育所に入る順番を決めるときに市が使っているAIだ。申しこんだ家庭の状況を点数にして、職員の判断を助けている。

午前中、拓也は去年一年分の判定記録を統計の道具にかけた。ほとんどの項目で偏りは見られなかった。ただ一つ、ひとり親の家庭のうち、紙の書類で申しこんだ人の点数が、オンラインで申しこんだ人よりわずかに低い傾向があった。同じ条件なのに、なぜ差が出るのか。拓也はその原因を数字だけで決めつけず、記録を一件ずつ開いて見比べた。

午後は窓口の職員に話を聞いた。紙の書類では勤務時間の欄が手書きで、読み取りの段階で「時間」が抜け落ちることがあるという。職員は気づいたら直していたが、全部ではなかった。拓也は、AIそのものより入力の手順に原因があると考え、読み取りの確認を二重にする案と、過去の該当者を見直す案をメモにまとめた。

夕方、市の担当課長に途中経過を説明した。課長は「AIを止めるべきか」と聞いた。拓也は、止めるかどうかを決めるのは市であり、自分の役目は事実と根拠を示すことだと答えたうえで、影響を受けた可能性のある家庭の数を伝えた。報告書の締め切りは来週。帰りの新幹線で、拓也は「わずかな差」という言葉を、具体的な件数に書き直した。

この仕事に近づくには

今

今からできること

中学校数学のデータの活用や、社会科の人権と法のしくみを学ぶ。ニュースで話題になったAIの失敗例を調べ、なぜ起きたのかを考えてみる。
高校数学（統計）と情報を中心に学び、公共や政治・経済で法律と社会の関係にふれる。理系と文系のどちらからでも目指せる。
大学・社会人情報系、統計・データサイエンス系、法学部や商学部などで学ぶ道がある。IPAのシステム監査技術者試験や、ISACAの公認情報システム監査人（CISA）など、今あるシステム監査の資格が足がかりになる。