著者は自身のブログに掲載した記事で、2023年3月にOpen to Debateが主催し、Keith Teareと対峙した「ChatGPTは益よりも害をもたらすか？」という議論を振り返っている。彼によれば、生成AIのネガティブな影響のリストは現在「かなり深刻」であり、最近のハッキングの波はこの認識に特に重くのしかかっている。
悪化するネガティブな評価
著者はいくつかの懸念事項を列挙する：同意なく作成されたポルノグラフィーのディープフェイク、フィッシング詐欺の増加、大規模な誤情報、彼が「認知的降伏」と呼ぶもの、大規模言語モデル（LLM）に対する特定の政府の隠然たる影響に関連する民主主義への脅威、つまりテキストを生成するシステム、そして監視ツールとしての生成AIの使用。また、知的財産の盗難が芸術家や作家に与える影響にも言及している。
最後に、一部の人々が「ブラック・オクトーバー」と呼んだ一連のサイバー攻撃について触れている。Paul Kedroskyはこれを「The Hackening」と名付けた。SalesforceのCEOであるMarc Benioffは、AnthropicのJason Clintonのメッセージを引用し、これを「コードレッド」と表現し、彼が「100％」正しいと判断した。著者は、Jason Clintonがこの困難な時期は1年か2年しか続かないかもしれないと考えていると付け加えつつ、両者とも正しいと考えている。
目に見えない利益
ポジティブな側面を要約するために、著者は時にはテクノロジーに好意的なApollo Global Managementのチーフエコノミスト、Torsten Slokを参照している。彼は、著者が厳しいと評価する分析の中で、多くの期待されたポジティブな効果は単に実現していないと述べている。
この認識はすべての用途を一括りに否定するものではない。著者は、身近な人々の何人かが、主にソフトウェア開発において生成AIから大きな利益を得ていることを認めている。しかし、この技術が全体として社会にとって純粋な不利益であったと主張することがもはや難しくないと彼は考えている。また、この技術が経済全体を崩壊させる可能性が残っていると付け加えているが、この点についてはそれ以上詳しく述べていない。
記事は一つの告知で締めくくられている：著者は、Cathy O’Neilと共に、ボルチモアでのOpen to Debateに戻る予定である。生放送はないが、編集されたイベントのバージョンは後日、YouTubeおよびWNYCを含む多くのNPR系列局で公開される予定である。
