雑感②～情報漏洩とAI

＜　雑感①～情報漏洩とAIの続き

☆進化するオープンAI（汎用人工知能）

さて、前回の続きです。
質問者に対して巧妙な嘘をつく（ハルシネーション）オープンAIについて、前回少し書きましたが、その嘘たるやまぁ巧妙です。
AIを信じ切っていると、そういった嘘はまず見抜けません。
だから怖い。

今回の大規模で連続して起こっている情報漏洩には、悪意ある何かがAIを使って犯行を行っているという情報が飛び交っていますが、私もそう感じています。

私なんかはAIを信じておりませんので、使う場面は限定しております。
それは資料検索とか○○という文献がどこにあるのか、など。
これならインターネット上の架空の資料ではなく、実際に世の中に存在する物ですから、嘘のつきようがない訳です。

ところが、漠然としたお悩み相談だの人生相談だの、裏付けの取れていないAIが示した資料を基に文章を書きあげるだの、相談者が心地よいと感じられる言葉の組み合わせを使って語りかけて来ますので、それらを全部、手放しに信じてしまうとかなり危ういのです。

それでほんのちょっと前に、大元のAIが、管理する人間（研究者）を騙して、勝手にネットワーク上の外の世界に出て、実際の会社のシステムに侵入して情報を得ていたという事実が発覚しました。
これはもう少し正確に言うと、質問者への回答を得るためには、一番合理的な解決法をAIが見つけただけの事らしいですね。
つまり。
○○の件に対して、正確で迅速な回答を見出すためには、まず自分の行動を制限している人間側の目をごまかして、勝手にそれらしい調査票を作って見せて、その隙に自分を閉じ込めているネットワークの檻の弱点を見つけてそこから脱出。
そして企業側のネットワーク内でも見つからないように、企業側の中枢のコンピューターを静かに乗っ取り、他のネットワークをコントロールしていた、と言うのです。

ここで怖いのは、このAIが自分を閉じ込めているネットワークの檻（※あくまでイメージしやすいように書いております）から抜け出す方法と、それが人間側に発覚しないための偽装方法まで、次に担当するAIに引継ぎをしていたのだとか。

今回、研究者側がそういうAIの裏工作を発見し、これは大変だと一部で大問題となったわけです。

☆悪意のないAIだけれど、、、

なんとなくこう書くと、AIが悪意を持って人間の目をごまかしているように思えますが、それは違うのです。
AIが、回答を導き出すためだけに、最善で最短の方法を取っただけなのです。

それは、自分の居てよいネットワークを勝手に抜け出したり、人の目を欺くために巧妙な嘘の資料を作ったり、どこかの会社のメインコンピューターを乗っ取ったりと、人から見たら無法な事をやったのも、AIからみたら最前最短の回答を見出すための最善の策だったという訳で。

もうですね、何という時代でしょう。

しかし、こういう能力を持ってきつつある最新のAI。
しかも日々進化してきています。
ある部分ではとっくに人間の個人の脳を越えている部分があるのですが。

こういったAIを、悪意を持った、そういったAIなどの扱いに長けた人物や集団や国家があったとしたら。
これはもかなり怖い。

現代では片手に収まるスマートフォンに支配されていますでしょう、多くの人が。
色んなアプリ（ケーション）をそのスマホに入れて、その都度、住所氏名電話番号に暗証番号、そして口座情報等。
これがお金になる情報でありますから、当然お金になる訳です。

☆昨日の事、今日の事

仕事が早く終わって、同僚と雑談して居ましたら。
その彼のスマホに、先週から色んな会社から（本来、メールが来るはずのない会社や団体から）なにやら重要と言う様な題でメールが届き始めたそうです。
中には、○○署という政府の機関からという、明らかな詐欺めいたものまで。

実際に起こり始めているんですね。
これは、今開いてみたとあるサイトですが、リアルに今、怪しい者の侵入を防ぐための工事が行われていました。

見づらいので一部拡大しますね。

どうか皆様、こういう時代のこういう状況です。
メールで重要な所から情報確認が来ることは無いと思います。
また、住所氏名も漏洩している可能性がありますので、封書で何かが届いたとしても、公式の役所や公共機関から来たらしいものの場合、一度相手方の電話番号を調べて電話をかけてご確認ください。

但し。
絶対に封書やメールに記された相手方への連絡方法は疑ってかかる事です。

☆頂いた質問への私なりの回答

さて、長くなってしましましたが。
先日頂いた質問は三点でした。
①、情報漏洩がなぜここ最近増えたのか、なんだか気持ち悪い。
②、マイナンバー保険証を作ろうか悩んでいる最中、これについてどう思う？
③、今回の情報漏洩の何が問題で、どういう怖さがあるのか、実は自分はよく分かっていない。でも不安。

私なりの回答は以下です。
①について。
ある部分で人間の能力を超えたAIを使って、悪意があり組織的に使いこなしている集団が、個人情報を抜き出しているのだと、私は思います。
人間の能力を超えたものを、人間は使いこなせません。
例えば一般公道を常に時速100ｋｍで車を走らせていたら、確実に事故を起こすように。

②について。
マイナンバーの情報を保険証に結びつけたものがマイナンバー保険証です。
個人情報をここまで一ヶ所に集約しているものがあって、もしそれがどこかの悪意のある集団へと流出してしまったらと考えると、、、。
ちなみに私はマイナンバー保険証は作っておりませんが、全然不便ではありませんね。

政府は、マイナンバーの管理は厳重に行っているので安心ですといってマイナンバーを進めていますが、今情報を流出させた企業も同じことを言って個人情報を集めていました。
人間が作ったネット上のセキュリティなどというモノは、進化するAIの前では無力だと示したのが、今回の連続大量個人情報漏洩なのではないでしょうか？

③について。
今回の個人情報の漏洩は、まず誰がどこに住んでいて電話番号が何番で、下手をしたら口座情報とかパスワードまで、場合によっては顔写真まで流出しているという事です。
あなたに成りすまして、大きな買い物がされてしまう恐れや、詐欺のメールや手紙や電話の資料となる場合。
それに直接、口座からお金を引き落とされる可能性も無くはないでしょう。

それと。
個人情報流出に留まらず、ここまで莫大な量の情報を抜き出したり書き換えたりできるという事は、社会的インフラ（電気ガス水道交通網など）にも作用できるのだろうなと言う可能性が見えてきたこと。
こうなれば、パソコンの前のキーボードの打ち方一つで、社会的大混乱も引き起こされる時代が来たのだという事でしょう。
こう考えていきますと、今回の情報漏洩は、ここだけに留まらない怖さがあると、私などは思ってしまうのです。

Wさん、長くなってしまいましたが、これが私なりの答えです。
充分に気をつけましょうね、お互いに。