AIが 読み違えから 暴走と・・・ ― 2026年07月08日 22時47分36秒
今日は動かす度にデータ不備を原因とする不具合が報告されて、調査に色々と時間を取られ続けているバッチの試験があって、いつ何時に面倒事が降って湧いてくるか分からない状況だった。
そのため、新しい修正チケットを取得せずに不具合の発生に備えて、開発支援AIに不具合調査を円滑に行う為の情報収集を指示したり、既知の問題を解消するための施策を検討したりしていた。
開発支援AIが途中で変な事を言い出したから大慌てしたけれど、別枠で調査させた時の履歴を読み込ませて再検討させたら、今回の調査が間違っていたと結論づけて再整理してくれた。
何故に変な事を言い出したのかと事故解析させてみたら。コードを読み違えた影響での迷走だったと言い出して、正確さが命のはずなのに読み違えるとは驚きだった。
最終的に軌道修正はできたのだけど、別枠の調査履歴を見せていなかったら思い込みが原因で軌道修正できないままだったかも知れない。
絶対の信頼を置ける存在でない事は理解していたけれど、読み違いから暴走するほど無駄な人間臭さを備えているとは想像していなかった。
雑用を好んでやってくれる便利な存在であると同時に、何時までも成長しない新人という認識も持っておいた方が良さそうだ。
そのため、新しい修正チケットを取得せずに不具合の発生に備えて、開発支援AIに不具合調査を円滑に行う為の情報収集を指示したり、既知の問題を解消するための施策を検討したりしていた。
開発支援AIが途中で変な事を言い出したから大慌てしたけれど、別枠で調査させた時の履歴を読み込ませて再検討させたら、今回の調査が間違っていたと結論づけて再整理してくれた。
何故に変な事を言い出したのかと事故解析させてみたら。コードを読み違えた影響での迷走だったと言い出して、正確さが命のはずなのに読み違えるとは驚きだった。
最終的に軌道修正はできたのだけど、別枠の調査履歴を見せていなかったら思い込みが原因で軌道修正できないままだったかも知れない。
絶対の信頼を置ける存在でない事は理解していたけれど、読み違いから暴走するほど無駄な人間臭さを備えているとは想像していなかった。
雑用を好んでやってくれる便利な存在であると同時に、何時までも成長しない新人という認識も持っておいた方が良さそうだ。
最近のコメント