生成AIガイドライン、福祉・介護事業者が知っておくべきポイント

Uncategorized

はじめに

「うちの事業所でもAIを使ってみたいけれど、ルールを決めずに始めていいのだろうか」。管理者や現場のリーダー的な立場にある方にとって、これは避けて通れない悩みではないでしょうか。便利だからといって、ルールなしに使い始めてしまうと、思わぬトラブルにつながりかねません。

この記事では、福祉・介護事業者が生成AIを導入する際に知っておくべき、公的なガイドラインや注意点について整理します。事業所として、安心してAIと付き合っていくための土台づくりに役立ててください。

押さえておきたい2つの公的ガイダンス

生成AIを事業所で活用する際、まず押さえておきたいのが、2つの公的な資料です。

1つ目は、個人情報保護委員会が公表している「生成AIサービスの利用に関する注意喚起等について」です。この資料では、個人情報を扱う事業者が、生成AIサービスにプロンプトとして個人情報を入力する場合には、その利用目的にあった範囲かどうかを十分に確認するよう求められています（2023年6月2日公表、https://www.ppc.go.jp/files/pdf/230602_alert_generative_AI_service.pdf）。福祉・介護の現場では、利用者さんの氏名や状態など、個人情報を扱う場面が非常に多いため、この注意喚起は特に重く受け止める必要があります。

2つ目は、個人情報保護委員会と厚生労働省が連名で示している「医療・介護関係事業者における個人情報の適切な取扱いのためのガイダンス」です。これは生成AI専用の資料ではありませんが、医療・介護分野における個人情報の取り扱い全般について、事業者が守るべき考え方を示したものであり、生成AI活用のルールを考える際の土台としても参照されています。

事業所として生成AIの利用ルールを整える際は、まずこの2つの公的資料に立ち返り、「個人情報をどう扱うか」という原則を確認することから始めるのが、確実な進め方です。

事業所が定めるべきルールの考え方

公的な資料を踏まえたうえで、事業所として具体的にどんなルールを定めればよいのでしょうか。ポイントは、「何を入力してはいけないか」を、職員全員がわかる言葉ではっきりさせることです。

まず、利用者本人を特定できる情報、具体的には氏名、住所、電話番号、生年月日、被保険者番号、顔写真、音声、家族構成、緊急連絡先といった情報は、原則として生成AIに入力しないというルールを、明確に定めておく必要があります。曖昧な基準では、職員ごとに判断がばらついてしまい、思わぬ形で個人情報が入力されてしまうリスクが高まります。

次に、生成AIの使い方について、「使ってよい業務」と「慎重に扱うべき業務」を区別することも大切です。案内文や一般的な情報整理など、個人情報を含まない文章作成は、比較的取り組みやすい領域です。一方で、介護記録、ケアプラン、アセスメント、事故報告書、苦情対応文書といった、利用者さんの状況に深く関わる文書は、生成AIで下書きを作ることはできても、最終判断は必ず専門職が行うという原則を、ルールとして明記しておくことが望まれます。

特に、疾病の診断や治療方針、医学的な判断、利用者の処遇決定といった領域にAIを用いることは、避けるべきだとされています。こうした診断支援・治療支援を目的とするプログラムは、医療機器プログラムに該当する可能性があり、厚生労働省も該当性についての相談窓口を設けています。

ハルシネーションへの備えと、ルールの周知

生成AIを使ううえで、もう一つ忘れてはならないのが、ハルシネーション、つまりAIが誤った情報や不正確な内容を、あたかも事実であるかのように作り出してしまう現象への備えです。生成AIは、学習した時点までの情報しか持っていないため、最新の制度改正の内容が反映されていないこともあります。介護記録や計画書として使用する際は、必ず担当者が内容を確認したうえで運用することが欠かせません。

また、どれだけ立派なルールを作っても、現場の職員に伝わっていなければ意味がありません。研修の機会を設けたり、わかりやすい1枚のルールシートを作って掲示したりするなど、日常的に目に触れる形で周知する工夫も大切です。厚生労働省が案内している「デジタル中核人材養成研修」のような、無料で参加できる研修を活用し、事業所内でルールづくりを担う人材を育てていくという方法も、現実的な選択肢の一つです。

事業所としてAI利用のルールを整えることは、職員を守ることであると同時に、利用者さんを守ることでもあります。導入を急ぐあまり、この土台づくりを後回しにしないようにしてください。

自分の職場でも、AIによる記録作成や制度調べの試験運用が始まったことがあります。ところが実際には、日々の業務の中ですでに定着していたやり方があり、新しいツールのルールを読み込むのも手間に感じられ、結局あまり使われないまま、なんとなく立ち消えになりかけていました。そんな中、新しく入った新卒の職員が、臆することなく積極的にAIを使い始め、どんどん業務のスピードを上げていく姿を見て、驚かされたことがあります。無駄な作業に時間を取られない分、利用者さんとの会話や関わりに、より多くの時間を使えるようになっていたのです。ベテラン職員が「今までのやり方」に慣れているがゆえに変化をためらう一方で、真っ新な状態で飛び込んだ人の方が、素直に新しい道具を使いこなしていく。その様子を見て、変化を受け入れる柔軟さの大切さを、あらためて考えさせられました。

よくある質問（Q&A）

Q1．生成AIの利用ルールは、必ず文書として作らなければいけませんか？
法律で文書化そのものが義務づけられているわけではありませんが、口頭の申し合わせだけでは職員ごとに解釈がばらつきやすく、トラブルの原因になりかねません。簡単な形でもよいので、文書として残しておくことをおすすめします。

Q2．介護記録の作成にAIを使うこと自体は禁止されていますか？
禁止されてはいませんが、個人情報の入力方法や、最終確認の手順について、事業所としてのルールを定めたうえで活用することが求められます。

Q3．小規模な事業所でも、公的なガイダンスに従う必要がありますか？
はい、事業所の規模にかかわらず、個人情報を扱う以上は、個人情報保護委員会の注意喚起や、医療・介護関係事業者向けのガイダンスの考え方に沿って対応することが望まれます。

まとめ

今回は、福祉・介護事業者が生成AIを導入する際に知っておくべき、公的なガイドラインと注意点についてお伝えしてきました。

  • 個人情報保護委員会の注意喚起と、厚労省との連名ガイダンスの2つが、ルールづくりの土台になること
  • 個人が特定できる情報の入力禁止を、明確な言葉で職員に周知する必要があること
  • 介護記録やケアプランなどはAIで下書きまで、最終判断は専門職が行うという原則を守ること
  • ハルシネーションへの備えと、無料研修を活用した職員教育も欠かせないこと

ルールがあるからこそ、安心してAIという道具を活用できます。事業所全体で、この土台づくりに取り組んでいっていただけたらと思います。

参考文献・引用元

コメント

タイトルとURLをコピーしました