「AI、大丈夫なんですか」と聞かれたら — 不安には、職員が減らせるものと、組織しか決められないものがある

2026年8月上旬、非営利セクターの研修に関わる人がX上で、参加者に「生成AIを使って作業してみましょう」と呼びかけたところ、会場から「え、大丈夫なの?」というどよめきが起きたと共有していました。個人名・団体名・研修の詳細は確認できていないため、ここではX上の投稿にもとづく伝聞として扱います。

この反応は、AIへの無理解や苦手意識の表れとは限りません。「大丈夫なの?」という一言には、少なくとも性質の異なる2つの不安が混ざっています。「間違った答えが出るのでは」という不安と、「入力していい情報かどうか分からない」という不安です。この記事は、その2つを仕分けるための材料です。

生成AI活用の実態と不安を数字で示した調査があります。株式会社パパゲーノが運営する「パパゲーノAI福祉研究所」が2025年11月25日から12月6日にかけて実施した「介護・障害福祉現場における生成AI活用に関する調査」です。Googleフォームによるオンライン調査で、有効回答は184名。回答者は就労継続支援B型(29.3%)、就労移行支援(15.2%)、児童発達支援・放課後等デイサービス(14.7%)などが中心です。

調査主体の株式会社パパゲーノはAI支援記録アプリを開発・販売しており、中立の第三者調査ではありません。調査主体自身も「任意回答であり、AI活用に関心のある層が多く含まれている可能性がある」と注記しています。全国の代表値ではありませんが、現場の不安を項目別の数字で示した調査として、仕分けの材料にはなります。

生成AIの利用における困りごと・不安(複数回答)

• 誤った情報(ハルシネーション)を出力された — 53.7%
• 支援の文脈に合わない提案をされた — 34.0%
• 著作権や知的財産権の問題が不安 — 33.3%
• 個人情報をどこまで入力して良いか分からない — 29.0%
• 依存しすぎて自分で考える力が落ちた気がする — 27.2%
• 職場の方針・ガイドラインが分からない — 20.4%

最も多かったのは「誤った情報(ハルシネーション)を出力された」で、半数を超えています。「個人情報をどこまで入力して良いか分からない」(29.0%)と「職場の方針・ガイドラインが分からない」(20.4%)は、それより下に位置します。つまり現場の不安は、入力ルールの不在だけに還元できるものではありません。ただし、この6項目は解決を誰が担うかで性質が分かれます。ここが次の仕分けの出発点です。

上の6項目は、大きく2種類に分けて考えることができます。ひとつは、職員が仕事の仕方を変えれば減らせる不安。もうひとつは、組織が決めない限り減らない不安です。

誤った情報(ハルシネーション)と、支援の文脈に合わない提案は、「AIの出力をそのまま使わず、人が最終確認する」ことでリスクを減らせます。ここで大事なのは、確認の有無だけでなく、どのモデルをどう使うかです。例えば、根拠となる一次情報のソースを常に提示するよう明示したうえで、記事作成時点ではGPT-5.6のように根拠提示に強いモデルを使い、別のモデルにファクトチェックさせる運用は、精度をかなり上げられます。OpenAI自身も、GPT-5.6 Solは日付・数値・出典・規則などに依存する回答で誤りを減らしやすいと説明しています。逆に、Geminiを単発で使って文章を仕上げる使い方は、記事作成時点ではいちばん危険だと見ています。Googleも、検索グラウンディングなどで事実性を高められる一方、不正確な出力はなお起き得ると注意しています。もっともらしい誤りを完全には見抜けないこともあるため、重要な判断では一次情報との照合や、複数人での確認が必要です。当サイトの AI導入ガイド でも、安全に使うためのポイントのひとつとして「出力は人が確認する」を挙げています。これは職員一人ひとりが今日から実践できる一方、確認手順や最終責任者は組織でも定める必要があります。

著作権や知的財産権への不安は、これとは別に扱う必要があります。人が内容の正しさを確認しても、利用許諾や引用条件までは解決しないためです。AIの出力をチラシや広報物にそのまま使う前に利用条件を確認する必要があり、ここも個人任せにせず組織として方針を決めておくほうがよい領域です(この記事では深追いしません)。

一方、「個人情報をどこまで入力して良いか分からない」「職場の方針・ガイドラインが分からない」の2つは、職員が入力欄の前で数秒で判断できる種類のものではありません。理由は法律の構造にあります。

個人情報保護法は、本人の病歴や犯罪歴など「差別、偏見その他の不利益が生じないよう特に慎重な取扱いを要する情報」を「要配慮個人情報」と定義しています(法第2条第3項)。障害に関する情報(身体・知的・精神・発達障害など)も、施行令・施行規則によって含まれ得ます。要配慮個人情報の取得には、原則としてあらかじめ本人の同意が必要です(法第20条第2項)。例外は法令に基づく場合や、生命・身体・財産の保護に同意取得が困難な場合などに限られ、通常の業務判断で使える広い例外ではありません。さらに要配慮個人情報は、「オプトアウト」による第三者への提供の対象外とされており(法第27条第2項ただし書き)、原則として本人の同意が必要です。

個人情報保護委員会も2023年6月2日付の注意喚起で、個人情報を含むプロンプトを生成AIに入力する場合は、その入力が「利用目的の達成に必要な範囲内か」を確認するよう求めています。加えて、生成AIの提供者が入力データを回答生成以外の目的(機械学習など)に利用する場合、それは個人データの「第三者提供」に該当し得るとも整理しています。本人の同意を得ないままこれに該当する入力を行えば、入力した側の個人情報取扱事業者(=団体)が法違反となる可能性があります。

「利用目的の範囲内か」「本人の同意は取れているか」「入力先のAI提供者は入力データを学習に使うか」は、契約や社内規程のレベルで確認する話であって、目の前の職員が入力欄を前に数秒で決められる判断ではありません。福祉・NPOの現場は、支援記録や相談内容といった業務情報に、病歴・障害・家庭環境などの要配慮個人情報が自然に混ざりやすいため、気をつけていたつもりでも誤って入力してしまうリスクが構造的に高くなります。だからこそ、「何を入力してよいか」を職員個人の注意力だけに任せる設計には無理があります。

SNSでも、医療・介護・福祉分野の発信者から「患者情報・職員名・施設名・部署が特定される内容は入力しない」という、経験から編み出した自分なりの線引きを語る投稿が見られました(伝聞)。実務的には有効な目安ですが、こうした個人の工夫だけでは、先に述べた「利用目的の範囲内か」「第三者提供に当たるか」といった判断までは引き受けられません。

AIサービスの選定自体も、個人ではなく組織が決めることです。厚生労働省の「医療・介護関係事業者における個人情報の適切な取扱いのためのガイダンス」(令和8年4月1日最終改正)は、委託先については安全管理能力を持つ事業者を選び、契約で個人データの取扱いや契約終了後の対応、再委託の条件を定め、定期的な確認・監査を行うよう求めています。ただしこのガイダンスの対象は医療機関のほか、訪問介護・訪問看護・居宅介護支援・介護保険施設など特定の事業者で、福祉NPO全般に直接適用されるものではありません。それでも、「委託先(AI提供者)をどう選び、どう管理するか」が組織の役割だという考え方は、NPOにとっても参考になります。

先の調査で「職場に明確なAI活用のガイドライン・ルールがありますか」と尋ねたところ、「ある(条件付きで利用を認めている)」は19.8%、「ない」が69.1%、「分からない」が11.1%でした(この設問への回答は162名)。職員から見て線引きがはっきりしている職場は、5つに1つということになります。

利用環境を見ると(利用経験者ベース)、「個人で無料版を使っている」が44.4%と最も多く、「事業所で導入されているサービスを使っている」は29.0%、「個人で有料版に課金している」が26.5%でした。用途面では、利用者に関する記録や計画書の作成に生成AIを「使用したことがある」が48.2%、「使いたいが控えている」も21.6%にのぼります。

組織としてルールを整える前に、個人の判断で利用が先行している状態です。こうした「組織が把握していないAI利用」は「シャドーAI」と呼ばれ、当サイトでは 福祉・NPOの現場に広がる「シャドーAI」 で実態を扱っています。ここでは深入りしません。

事業所という単位で見ると、別の数字があります。厚生労働省の「令和6年度介護報酬改定の効果検証及び調査研究に係る調査(令和7年度調査)」は、介護サービス事業所に「その他の機器」の導入状況を尋ねており(発送19,606件に対し回収6,875件)、「生成AI等のAIツール(議事録生成ソフトやケア方法の標準化ツール等を含む)」の導入済みは578件・8.4%にとどまりました(未導入81.7%、無回答9.9%)。ただしこの8.4%は議事録生成ソフト等を含む「事業所としての導入率」であり、パパゲーノの調査(職員個人184名を対象とした任意回答)とは調査対象も単位も異なります。両者を直接比較することはできません。

ここまでの整理をまとめると、誤答への対処は「出力を人が確認する」という個人の運用で減らせます。しかし「何を入力してよいか」「入力してはいけないものを入れてしまったときどうするか」は、組織が決めない限り誰も決められません。そしてこの組織側のルールは、ゼロから書く必要はありません。無料で使えるひな形がすでに公開されています。

• 経済産業省・総務省「AI事業者ガイドライン(第1.2版)」(最終更新2026年4月1日) — チェックリスト(PDF)とワークシート(Excel、117KB)が無料公開されています。AI利用者に求められる事項として、提供者が想定した範囲内で利用する/出力の精度とリスクを理解する/個人情報を不適切に入力しない/機密情報を不適切に入力しない/AI出力だけで判断せず人間の判断を介在させる/関係者への説明や問い合わせ窓口を検討する、などが挙げられています。
• デジタル庁「行政の進化と革新のための生成AIの調達・利活用に係るガイドライン(第2.0版)」(2026年6月12日公開) — 本体・別紙のWord/Excel一式がZIPで無料公開されています。これは行政機関向けのガイドラインで、NPOや福祉法人にそのまま当てはまるものではありませんが、規程の構成や項目立ては参考にできます。
• IPA「AI利用者のためのセキュリティ豆知識」(2026年4月2日公開) — 非専門家・管理者向けにやさしく書かれています。
• 日本NPOセンター×Infoxchange「アジア太平洋のNPO向けAI学習コミュニティ」日本語版(2026年2月13日開始) — 完全無料。AI学習タイプの診断、プロンプト作成術やNPO向けAI用語集などの自習教材、倫理・データセキュリティ・組織導入を扱う専門家ウェビナー(字幕付き録画あり)、リアルタイム翻訳付きのオンラインフォーラムを提供しています。日本NPOセンターが2025年11月から展開する「デジタルチャネル for Nonprofits」の一環です。

今週決めるべきことは、実は2問だけです。

• ①この業務でAIに入れてよい情報・だめな情報は何か— 完璧な線引きでなくてよく、まずは「利用者・受益者の個人情報(氏名・住所などを含む)は原則として入力しない」という最低ラインを先に決めます。病歴や障害など要配慮個人情報にあたる情報は、法律上さらに慎重な取扱いが求められるため、この最低ラインの中でも特に厳格に扱います。
• ②入れてはいけないものを誤って入力してしまったとき、誰に、いつまでに言うか— 相談・報告先をあらかじめ決めておきます。

見落とされやすいのは②のほうです。①だけを厳しく決めて②を用意しないと、誤って入力してしまった職員は報告をためらう可能性があり、法人は何が起きたかを知る手立てを失いかねません。相談先が決まっていて「言えば責められない」と職員が思えることが、事故を早く止められるかどうかを左右します。上のチェックリストとワークシートは、この2問を紙1枚にする土台として使えます。

• パパゲーノAI福祉研究所「介護・障害福祉現場における生成AI活用に関する調査」(2025年12月公表、有効回答184名、任意回答)
• 厚生労働省「令和6年度介護報酬改定の効果検証及び調査研究に係る調査(令和7年度調査)」
• 同「介護現場における生産性の向上等に関する調査研究事業」報告書(PDF)
• 個人情報保護委員会「生成AIサービスの利用に関する注意喚起等について」(2023年6月2日)
• 個人情報保護委員会「個人情報の保護に関する法律についてのガイドライン(通則編)」
• 厚生労働省「医療・介護関係事業者における個人情報の適切な取扱いのためのガイダンス」(令和8年4月1日最終改正)
• 経済産業省・総務省「AI事業者ガイドライン(第1.2版)」(チェックリスト・ワークシート)
• OpenAI「Improving GPT-5.6 Sol in ChatGPT」(2026年8月6日)
• Google AI for Developers「Safety and factuality guidance」
• デジタル庁「行政の進化と革新のための生成AIの調達・利活用に係るガイドライン(第2.0版)」(2026年6月12日)
• IPA「AI利用者のためのセキュリティ豆知識」(2026年4月2日)
• 日本NPOセンター「アジア太平洋地域のNPO向け『AI学習コミュニティ』の日本語版がスタート」(2026年2月13日)
• 当サイト: 福祉・NPOの現場に広がる「シャドーAI」
• 当サイト: AI導入ガイド

本記事は2026年8月8日時点の情報にもとづきます。法律の助言ではないため、実際の規程策定は顧問弁護士・社会保険労務士・所轄庁にご確認ください。パパゲーノAI福祉研究所の調査は任意回答のオンライン調査(有効回答184名)で、調査主体はAI支援記録アプリを提供する営利企業であり、全国の代表値ではありません。冒頭の研修でのやりとりはX上の投稿にもとづく伝聞で、個人名・団体名・研修名は記載していません。掲載内容の誤りにお気づきの際は、お問い合わせからご指摘いただけると助かります。