ドマさんの徒然なるままに【第89話】 正常性バイアス・前編

第89話:正常性バイアス・前編

序章
読者の皆さん、「正常性バイアス(Normalcy Bias)」という言葉をご存じだろうか。辞書によると、『自分にとって都合の悪い異常事態が起きても、“いつも通りだ”、“大したことはない”と過小評価してしまう心理的傾向』のことをいう*1。災害・事故・健康・仕事のリスク判断など、幅広い場面で見られる*2ので、ご存じの方も多いと思う。この心理、製薬会社やGMPの世界でも起こりうる(起こっている)。特に不始末を起こした製造所や会社さん、そしてそのGMP組織や会社の管理職・お偉いさん、もろにそのバイアスが生じた結果のように思えてならない。本話では、そんな話を書いてみた。

本話、前第88話GMPハルシネーション」の延長線上の内容であり、『勝手にGMP論』シリーズの第17弾として書いている。ある意味では、前第88話よりも具体的で身近に感じる内容かもしれない。

なお、本話においては、品質に関わるGood Practices全体、具体的にはGMP省令・GQP省令・GCTP省令・GDPガイドライン・治験薬GMP基準の総称として「GMP」と記しているので、その点をご容赦願います。特定のGMPや本来のGMPに限定して言及している場合には、都度具体的に表記を施しているので、その点をご了承願います。


第1章:正常性バイアスの仕組み
今回も前第88話と同様に、まずはChatGPTに「正常性バイアスを教えてください」と「GMP分野における正常性バイアスの具体例を教えてください」と2段階で問いかけてみた。それらの回答も踏まえて、次章以降にChatGPTの回答と筆者のコメントを付けて紹介する。水色が生成AIの回答(整理のために一部修正しているが、基本そのまま記している)、黒字(一部赤字)が筆者のコメントである。

正常性バイアスの仕組みとしては、人は強い不安や恐怖を感じると、無意識に心を守ろうとします。その結果、「まさか自分が被害に遭うはずがない」「今まで大丈夫だったから今回も大丈夫」「少し様子を見よう」と考えてしまい、現実を直視しない方向に認知がゆがむのです。
⇒AI先生に教えを乞うて、説教を聞いている心境です。ためになりました。ありがとうございます。
 

第2章:一般的な具体例
【災害時】
・ 地震速報が出ても「この地域は大丈夫だろう」
・ 避難指示が出ても「「周りも逃げていないし、まだ平気」
【結果】
避難が遅れ、被害が拡大

 
【健康・医療】
・ 体調不良が続いても「疲れているだけ」
・ 異常値が出ても「一時的なものだろう」
【結果】
受診の遅れにより重症化

 
【仕事・組織(品質・安全分野)】
小さな異常や逸脱に対し「よくあること」「問題にはならない」
【結果】
重大事故・品質問題に発展(GMPや品質管理の文脈では特に重要な概念です)

⇒AI先生、さすがです。
 

第3章:なぜ危険なのか
正常性バイアスが強く働くと、初動が遅れる、警告を無視する、判断が後手に回るという状態になり、本来なら防げた被害を招きやすくなります。
⇒AI先生、これまたさすがです。
 

第4章:正常性バイアスへの対策
【個人レベル】
・ 「自分も例外ではない」と意識する
・ 迷ったら安全側に倒す ←状況に依るので必ずしもではなく、熟考すべき
・ 事前に行動を決めておく
⇒普段からの意識づけは重要ですよね。

【組織・現場レベル】
・ 異常を数値・ルールで判断する(感覚に頼らない)←個人的には、必ずしもそうだとは思いません
・ 大丈夫という言葉を根拠付きで説明させる
・ ヒヤリ・ハットを軽視しない文化づくり
⇒ヒヤリ・ハットはリスク低減、安全対策の基本中の基本ですよね。しかしながら、すべてに対して数値化やルール化できるわけではないため、個人的には「何か変だな?」という関知能力は現場では必要な要素だと思っています。
 

第5章:製造現場での具体例
GMP分野における正常性バイアスは、重大逸脱・品質不良・回収につながってしまいます。背景には「見えにくい原因」があります。ということで、以下に、現場で実際に起こりやすい具体例を「場面別」に整理します。

① 環境モニタリング(EM)の異常
【状況】
微生物数がアラートレベルを超過、ただしアクションレベル未満
【正常性バイアスの思考】
・ 一時的なものだろう
・ 清掃直後だからたまたま
・ 今まで問題なかった
【結果】
傾向悪化を見逃す。後日、同一箇所でアクションレベル超過
⇒アラートレベルをどのように設定しているのか疑問です。環境モニタリングに限らず、アラートレベルを設定している製造所の皆さん、何のために設定しているのか、そしてそのレベルになったら何を行うのか、再考してください。
過去に、アラートレベルを設定しSOPに明記しているにも関わらず、その状況をそこに至るまでの原因をトレンドも含め分析していない会社さんがありました。
 
② 製造パラメータの微妙な逸脱
【状況】
撹拌速度や温度が規格内だが、下限・上限ギリギリ
【正常性バイアスの思考】
・ 規格内だから問題なし
・ 品質試験でひかれるはず
【結果】
CPP(重要工程パラメータ)の管理不十分で、製品ばらつき・OOSの前兆を見逃す
⇒開発段階にある治験薬製造時ならまだしも、プロセスバリデーション(PV)まで成立させての市販品製造時であれば、PV自体に疑問があります。この手の現象を見逃すと、そのうち必ず大幅な逸脱を起こします。パラメータの挙動不審は、製造担当者への“気づき”を促しているのです。CMCだけが研究者・技術者なのではなく、現場担当者も研究者・技術者なのです。むしろ実生産の設備・機器を用いた、かつ日々の作業としての研究者・技術者でなければなりません。SOPにしたがって作業するということと作業内に生じる微妙な違いを感じ取るということとは別次元の話です。
 

第6章:試験検査(QC業務)での具体例
① 試験結果の“微妙なズレ”
【状況】
含量や溶出がトレンド的に低下しているが、規格はまだ満たしている
【正常性バイアスの思考】
・ 規格内=合格
・ 分析誤差の範囲
【結果】
トレンド管理不十分なため、突然のOOS発生で原因特定が困難になる
⇒前項の「製造パラメータの微妙な逸脱」と同じです。トレンド分析の意味を理解していません。また、もしこれで何の対策も講じないで出荷を承認したとなれば、QAにも問題があります。当該ロットかどうかはともかくとして、先々安定性モニタリングで回収になる可能性は極めて高いと思われます。

② OOTへの軽視
【状況】
明確なOOSではないが、過去データと乖離
【正常性バイアスの思考】
・ 定義が曖昧だから様子見
・ 再試験すれば戻る
【結果】
本来必要な調査が行われない
⇒もしSOPにOOTを明記しているのであれば、見てくれのSOPですよね。良い製造所と悪い製造所の違いはこういうところに現れます。監査ではこういう点を見逃さないようにしましょう。
 

第7章:設備・保全における具体例
① 設備の異音・振動
【状況】
いつもと違う音や微振動
【正常性バイアスの思考】
・ 前も問題なかった
・ 止めるほどではない
【結果】
突発停止によりバッチ廃棄や交差汚染リスク
⇒先述の「第5章:製造現場での具体例 ②製造パラメータの微妙な逸脱」の項でも述べたように、現場担当者も研究者・技術者なのです。いつも使っている設備や機器の“何かいつもと違う”という感覚は、数値化や文字化はできないものの現場においては製造管理・品質管理の重要な要素です。少なくとも、筆者はそう思っています。設備管理担当者のみならず、製造担当者and/or品質管理担当者は、その感覚を養うこともプロとしての役目なんじゃないでしょうか。事が起こってしまってからでは誰でも分かりますし、既に手遅れだということを組織全体として養っておくことが必要です。
 
② 校正期限ギリギリの使用 ←ハッキリ言って、本件のAI回答は誤解を招きます。
【状況】
校正期限当日まで使用
⇒校正期限日の午前中に使用して、午後に校正してはいけないのか? といった屁理屈が出てきそうに思えます。通常は、期限日前日までが有効という意味で設定されているとは思いますが、過剰に重んじてしまうと、校正期限日がどんどんと前倒しされていってしまう可能性があります。
【正常性バイアスの思考】
・ 今日までは有効
・ ズレるはずがない
⇒“校正”という言葉自体が、英語、特にGMPの世界で言う“calibration(キャリブレーション)”と微妙に異なります。キャリブレーションの真意は、「適合適合適合?」といった定期的な実施での“トレンド”と前後の適合確認による“挟み込み”でデータの信頼性を確保することが目的です。状況的には回顧的な意味合いとなります。一方で、校正は測定値についての誤差の確認の意味であり、補正を目的としています。
【結果】
実質的な測定信頼性の低下は、査察・監査での信頼性指摘
前回適合以降、次回の適合確認までの期間における実測値は「まだ信頼性が確保できていない」との解釈となります。その観点から早急に信頼性を確保したいというデータであれば、測定後速やかにキャリプレーションすることがリスクマネジメントとして求められます。キャリブレーションの頻度設定は、機器の使用頻度と品質リスクを鑑み設定すべきでしょう。漠然と「(根拠なく)年1回」と設定している製造所をよく見かけますが、この点はご注意ください。
 

第8章:文書・品質システムでの具体例
① 計画的逸脱の常態化
【状況】
同じ計画的逸脱を繰り返し使用
【正常性バイアスの思考】
・ 前回も承認された
・ リスク評価は済んでいる
【結果】
手順が形骸化し、「逸脱を前提とした運用」と判断される
⇒「計画的逸脱」を設定している製造所が少なからずありますが、本来の意味での「逸脱」の意味からすれば疑問です。個人的にはお勧めしません。同じ内容(状況)での繰り返しは在り得ません。もしそうであれば、プロセスの頑健性に問題ありとしか言いようがありません。敢えて言えば、治験薬製造時で、かつ止むを得ない場合に限定すべきでしょう。
《注》計画的逸脱の詳細については、次話第90話「正常性バイアス・後編」において述べたいと思います。
 
② 変更管理の先送り
【状況】
小さな設備変更・手順変更
【正常性バイアスの思考】
・ 品質に影響しない
・ 後でまとめてやればいい
【結果】
非公式変更の蓄積
査察で重大指摘(Critical)
⇒市販製品であれば、承認書記載事項との乖離に至り、GMP違反になります。治験薬製造時であれば、開発データの漏れや抜けといったことが生じる可能性があります。
 

第9章:査察対応での具体例
① 指摘事項の過小評価
【状況】
前回査察でのMinor指摘
【正常性バイアスの思考】
・ 軽微だから問題ない
・ 次も同じ対応でいい
【結果】
次回査察でMajor/Critical化
⇒AI先生の回答、そのとおりではありますが、あまりに当たり前であって、正直残念です。読者が一番興味を示す部分なので、この周辺については次話第90話「正常性バイアス・後編」に取り上げたいと思っています。
 

第10章:GMPにおける正常性バイアスの本質
GMP分野での正常性バイアスは、「規格内」「前例あり」「今まで問題なし」という言葉に隠れて現れるという特徴があります。
⇒AI先生、そのとおりなので言い返す言葉は無いです。ただ「人間って、こんなもんですよ!」と言ったら、読者の皆さんに失礼でしょうか。
 

第11章:実務での対策(要点)
・ 規格内でも“傾向”を見る
・ 「問題ない」の根拠を文書で説明させる
・ OOT・ヒヤリ事象を逸脱予備軍として扱う
・ 定期的に「この判断、正常性バイアスでは?」と問い直す
⇒AI先生、これまたそのとおりなので同意いたします。筆者として読者の皆さんに言えることは、個人での対処には限界があるように思います。Quality Cultureの醸成じゃないですが、GMP組織全体として冷静かつ客観的に俯瞰して状況を見ましょう。特にQAはそれを鍛錬していきましょう。
 

終章
思いの外、AI先生の回答が妥当だったように思います。ただ、用語の使用が日本語と英語で微妙に違っている場合やGMPに特化した形での意味合いとなると、必ずしもGMP要件にマッチしない回答になってしまうようにも思えます。そのため、AI先生に“お任せ”や“100%信頼”は、現状では無理そうです。ただ、“第三者としてのご意見”や“念のためのチェック”としては活用可能と思います。
 

今回の調査のうち、読者が一番興味を示す「監査・査察対応での具体例」については、物足りないとお感じでしょうから、この周辺について再調査して次話第90話「正常性バイアス・後編」に取り上げたいと思っています。乞うご期待。


では、また。See you next time on the WEB.



【徒然後記】
やっぱりプロセスだなー!
ミラノ・コルティナ 2026 オリンピックが終わった。選手の皆さんの活躍には感動する。スノボーどころかスキーもスケートも出来ない筆者、「すげーっ!」としか思えない。いや、それ以上に選手の演技に「なんて美しいんだ!」と魅了されてしまった。メダル獲得の有無に関わらず、どこの国かにも関係なく美しい。そこに達するまでにどんな努力や苦労があったのか。筆者は、そのプロセスを知らず、単に結果を見ているだけである。想像を絶するプロセスがあったに違いない。
GMPの世界、Quality Cultureの醸成なんて言われているが、「美しいGMP」があるとすれば、どういうものを指すのだろうか。査察や監査において指摘ゼロは望ましいことではあるが、美しいとは言わないであろう。理路整然と記述されているものの使い勝手が良いとは思えないSOP、汚れも訂正も何ひとつない記録、そういったものが美しいかと問われれば、むしろ違和感を覚える。むしろ、品質には影響しない程度のちょっとしたケアレスミスがあるほうが「もう少し注意して頑張ってね!」として親しみを感じる。スポーツと同じで、直接は見ていないものの、丁寧で適切な作業プロセスの結果としての現在が垣間見れるからである。個人的には、そんな製造所に美しさを感じる。

--------------------------------------------------------------------------------------

*1: 正常性バイアスは、前第88話で述べた認知バイアスの一種でもあり、「正常化の偏見」、「恒常性バイアス」とも言われる。

*2:世間一般に知られている事例としては、自然災害や事故などの被害が予想される状況下にあっても、それを正常な日常生活の延長上の出来事として捉えてしまい、逃げ遅れの原因となることである。

 

 

執筆者について

経歴 ※このプロフィールは掲載記事執筆時点での内容となります

連載記事

コメント

コメント

投稿者名必須

投稿者名を入力してください

コメント必須

コメントを入力してください

セミナー

eラーニング

書籍

CM Plusサービス一覧

※CM Plusホームページにリンクされます

関連サイト

※関連サイトにリンクされます