CrankGPT は黙示録の後にあなたを導く手動チャットボットです

黙示録はさまざまな理由から痛みを伴うものになるだろう。巨大ロボット恐竜！不思議なラジオからは 1950 年代の音楽が流れ続けています。恐ろしい人食い地下室の家畜として終わる可能性があるのに、なぜ読まなかったのか疑問に思う道もっと近くに。でも明らかにいっぱい最悪その一環として、ChatGPT が何をすべきかを指示することはなくなります。一日中耳元で甘いことをささやき続ける奇妙なインターネットオウムなしで、どうして人は生きていけるでしょうか??

まあ、恐れる必要はありません。なぜなら、ある幸運な発明家は、LLM のない黙示録がもたらすであろう惨事をすでに予測しており、まさにその出来事を計画していたからです。見てください：クランクプト！

名前からすると、antivax プロンプトのスイートが組み込まれた単なる ChatGPT だと思うかもしれませんが、そうではありません。これは、グリッドレスの未来のための LLM です。電源に旧式の手回しクランクを使用する、内蔵型のバッテリーレスボックスです。ボックスには、8GB RAM を搭載した Raspberry Pi 5、オーディオ入出力カード、20W 手回し発電機が含まれています。

CrankGPT は 2 人からなる会社 SqueezeLabs の作品であり、同社の Web サイトではその使命を「AI をより小型、より安価、より高速にすることで、どこでも実行できるようにする」と説明しています。ああ、良い一日を！このデバイスのウェブサイトによると、発電機は二人が自ら設計したコンデンサーボードに接続されているという。ボードは電圧が確実に供給されるようにします Raspberry Pi は安定したままです。興味深い厄介な点は、「感じることができる」ということです。 [the power load] クランクを通して: LLM 推論と音声合成を併用すると、クランクを回すのが非常に困難になります。

LLM 自体は、いくつかのオプションの 1 つです。SqueezeLabs は、「より小型の Liquid AI LFM2 バリアント (たとえば、350M または 1.2B)、および 1B 形式の Gemma 3」を推奨しています。このマシンは、オーディオカードを介して音声入力を受け取り、設計者が作成したカスタム音声エージェントを介して音声をテキストに変換し、LLM の応答をテキスト読み上げソフトウェア Piper に出力します。

真剣に言うと、これは比較的低いエネルギー予算で要求の厳しいソフトウェアを実行するという興味深い概念実証であり、LLM では実行できないデモンストレーションでもあります。 通過する 仕事をするために膨大な力を集める。設計者はこう説明する。「わずかなコストとエネルギーで、より大きな仕事と同じくらいの性能を発揮する小型モデルに、周囲の人たちがキロワットや数千のトークンを投げつけているのを見るのは、ヨーロッパの小型実用車の感性を不快にさせるものだ。」

残念ながら、シリコンバレーを見てみると、LLM 開発の特徴である「スーパーサイズミー」の哲学が近い将来に進むとは思えません。しかし爆弾が落ちたら、小型実用車に乗っている人たちが最後に笑うことになるだろう。まあ、とにかく、頭よりも首の方が広いチームがAR-15を持ってくるまでは。 ChatGPT、夕食は何ですか? …私、って？おお。