AI依存は人類史上最大の単一障害点を生み出し得ると思う。


バラ色の未来を思い描くのは自由なんだけど、些か楽観的すぎると思う。

僕らの歴史には時折、アナログがデジタルに勝るような状況が立ち現れる。

たとえば震災等の被災地においては、模造紙や段ボールや公衆電話が通信の要となり、貨幣が主たる決済手段となり、手書きのカルテで医療が執り行われる。

止めることができないシステムには必ず、アナログ的な手段を用いての冗長化を施す必要があると思う。

ゆえに、ファックスには生き残る価値があるとも思う。何でも新しくすりゃ良いというわけではない。効率を求めるほどシステムは脆くなる。

最近では大企業がAIの使用を前提に人員削減を進めていると聞くが、LLMを利用できなくなった場合のバックアッププランはあるのだろうか。

おそらく無いと思う。危急時には、ただ、どうしようもなくなるだけだろう。

無くなっても大して困らない企業がAIに依存するのは構わないけれど、公共性を担う組織は平時の効率を犠牲にしようとも人間を使い続けるべきだと思う。

Closed