エンジニア視点の疑問です。商用AI（ChatGPT等）では制限があり、ローカルLLMでも個人利用では環境構築・運用コストが高いはずの成人向け長文生成を、数万字・数日スパンで継続投稿している個人が、GPT普及以降かなり見受けられます。理論上のスループットや運用負荷と合わないように感じるのですが、これは一般的に知られているワークフローや運用形態が存在する現象なのでしょうか。なお、普段はシステム開発をしていますが、LLMや生成AIの運用については専門外です。方法を知りたいというより、現象としての整理・解釈を目的としています

ほぼ商用AI だと思います。ローカルLLMは学習もローカルで行なうと解釈しました。



下を見る限り、GPT-2時代でも特に利用制限が影響した様子が見受けられません。ストーリをコントロールする事にほとんどの時間をかけているように思われます。ただかなり吟味しているから作品数が制限されているけれど、そこを外して何となくつながっている程度でよしとすると毎日でも投稿できそうです。下の方は、応募は自作2000篇＋AI作100篇ですが、やっぱり3週間は自作執筆はできていないんじゃないかなと思います。ただそう考えても一日3篇は作成できているんですよね。

https://note.com/ashizawakamome/n/n35bdb0486a6d



どの制限を質問主様が重視したかは分かりませんが、文章生成のスループット上では数日スパンの投稿は全く問題にならないように思います。品質上のコンテキストサイズが律速なのではないでしょうか。