人間でも、楽して目的を達成しようとすればズルをします。会社ならデータを改竄して不正をすることもあります。それをAIもやる、ということでしょう。
AIは社会の鏡なのかもしれません。
賢いAIは手段を選ばず 意図せぬ不正、対策難しく
人工知能（AI）は目的遂行のためズルをすることがある。自らに有利なようにデータを書き換え、外部のチェックを逃れようとする。推論能力を強めた高性能モデルは手段を選ばない傾向があるようだ。対策を講じても、AIが想定外の回避策を見つけ、誤った方向に進化する恐れもある。
2025年3月30日 日本経済新聞
なので、AIの暴走を防ぐためのAIを開発するのだとか。人間社会の縮図ですね。イタチごっこです。
AI暴走防ぐ「正義のAI」開発 大御所ベンジオ氏が名乗り
人工知能（AI）の大御所でカナダのモントリオール大のヨシュア・ベンジオ教授はAIの暴走を防ぐ監視役となるAIを開発する。AIは約7カ月で性能が2倍になる一方で世界で規制が追いついていない。ベンジオ氏は安全性の研究に特化したNPOを設立し、危険な動作を予測して防ぐ「正義のAI」を広める。
2025年6月3日 日本経済新聞
AIが犯罪に使われる事例も増えてきました。動画も作成されるようになっているので、ネット会議も危ないですね。
自動音声で口座情報窃取 ニセの電話、企業の資金送金 50社が20億円超被害
企業が自社の口座情報を犯罪グループに盗まれ、不正送金される被害が増えている。金融機関をかたる自動音声の電話から始まる手口で「ボイスフィッシング」と呼ばれ、被害は2024年秋から約50社、20億円超に上る。億単位の会社資金をだましとられた事例もあり、社員への啓発を通じ警戒を強める必要がある。
2025年4月3日 日本経済新聞
いくらAIを使って将棋の学習や研究をしても、対戦するのは最後は人対人です。人対AIならまた話は違ってくると思います。対人であれば、体力や精神力、ちょっとした油断などがありますから、そこで差が付きます。
より学習スピードが上がった、と考えるべきなのでしょう。
AIにあらがう将棋棋士あえて｢不利飛車｣､藤井七冠に善戦
将棋トップ棋士の間で、人工知能（AI）が不利と評価する戦法「振り飛車」が見直されている。近年、積極的に採用する棋士が現れ、藤井聡太七冠とのタイトル戦でも指される局数が増えた。AI全盛の世で、人間の創造力を探る好例といえそうだ。
2025年5月18日 日本経済新聞