ブラックボックス問題

弊社が自動継続で毎月払っているクレジットカードの決済が通らず、午前中大騒ぎになる。

各所に確認した末、「クレジット会社の方で不正利用のフラグが立って、決済を通さなかった」ということのようだ。


ってか、今月に入って突然「不正利用」という判断がくだされるって何?

その疑問に対するクレジット会社の説明が奮っていて、「わからない」というアンサー。

不正利用じゃないんで、次から支払えるようにしてほしい、というのも「変更できないんで」とのことで却下された。

結局、新規のクレジットカードを発行、というところに着地したが、・・・なにそれ。


勝手な想像だが、アルゴリズムが何らかの理由で不正利用のフラグを立てたが、開発の方でアルゴリズムの変更とか、ホワイトリストの仕組みを作るより、新規のクレジットカードを発行したほうが早い、ということな気がする。

今後本格的にAIの時代に突入して、ますます判断理由はブラックボックス化していきそうなんだが、大丈夫なんだろうか。

広告を非表示にする