CrankGPT
(crankgpt.com)- 手足の動力でトークンを生産する完全ローカル・プライベートAIソリューションで、日常用途から企業ワークフローまで、利用規模ごとにモデルを分けている
- 基本の手動クランクモデルは日常的な家庭用として十分で、パワーユーザーや小規模企業はペダル駆動モデルを検討できる
- データはデバイス内でのみ処理されるため、大企業にセンシティブな質問、内面の考え、アプリのアイデアを渡す必要がない
- AI利用に必要な電力を自らカロリーで生み出そうというメッセージで、石油を燃やす代わりにカロリーを燃やしてトークンを生産する
- Wi-Fi不在、Claude障害、計画停電、文明崩壊の状況でも必要な知能を確保できるというオフグリッドAIコンセプトを掲げる
CrankGPT — ローカル人力AI
- CrankGPTは人力で動作する完全ローカル・プライベートAIソリューション
- 気候変動、富の集中、たるんだ腕をあわせて語り、AI利用を運動と自家発電につなげている
- 「作業に合った適切な道具」を使おうというスローガンのもと、AIモデルを利用規模に合わせて分けている
AIの規模を合わせる
- 基本の手動クランクモデルは日常的な家庭利用に十分
- パワーユーザーや小規模企業は、より強力なペダル駆動モデルを検討できる
- 複雑なエージェント型・企業ワークフロー向けには、ジムやフィットネススタジオとのパートナーシップを進めている
今日の予報: 雲なし
- CrankGPTはデバイス上でのみ動作するため、ユーザーのデータはユーザーの手元に残る
- 大企業に最も切実な質問、内面の考え、突飛なアプリのアイデアを渡す必要はないというプライバシーメッセージを打ち出している
電力を取り戻す
- AIのためにガス発電所を建てるテック企業に触れつつ、ユーザー自身が直接トークンを生産しようという方向性を打ち出している
- CrankGPTは石油を燃やす代わりにカロリーを燃やしてトークンを作る
テックCEOにスーパーカーをもう1台買ってあげるべきか?
- ChatGPTに聞かなくても答えは「いいえ」であり、テックCEOたちはすでに金と影響力を持ちすぎているとする
- ユーザーはトークンに中毒し、生成コスト以上の金を払うようになったとして、CrankGPTによるオフグリッド移行とコスト削減をあわせて打ち出している
- 金がテックCEOの懐に入らないようにするという経済的メッセージを強調している
Looksmaxxing または tokenmaxxing… 両方やってはいけない理由があるだろうか?
- 忙しく働くあまり、自己管理をおろそかにしがちだという問題を提起する
- CrankGPTで直接トークンを生産すれば、より一生懸命働くほど、より一生懸命運動することになる
クラウド/Claude不要
- Wi-Fiがなくても、Claudeに障害が起きても、計画停電があっても、文明が終わる状況でも、CrankGPTが必要な知能を提供するとしている
- 自分はプレッパーではないと言いつつも、CrankGPTがあれば備えた状態になれるとする
- デモの依頼は Request a demo リンクから可能
1件のコメント
Hacker Newsの意見
リンク先のWebページは、Webデザインでいい加減やめてほしいものの典型例だと思う。
幸い、一番下にある「technical documentation」リンク(https://squeezlabs.github.io/handcrank/)はずっとましで、興味深い情報も多い。特に、Pi 5でそれなりに動かせるモデルが載っている。
コンテンツは普通に動くスクロールバーで読ませてほしい。次のスライドがいつ出るかも分からない変なスライドショーにせず、もっと情報がありそうに見えるボタンも、JavaScriptなしで普通にクリックできるようにしてほしい
サイト内移動のためにスクロールバーを最後に使ったのがいつかも思い出せないが、カクつくJavaScriptのキーフレームの間を移動するのに使うと喜びが込み上げてくる
ただ、ここではジョークのためにわざとそうしている気もする。この装置を手で回さないといけないように、コンテンツにたどり着くにはスクロールホイールを「回さ」ないといけないわけだから。面白いと思う
パートナーが新しく買ったローイングマシンに、運動強度を示す単位として「watts」があったのだが、それを見て、バッテリーをゆっくり充電するローイングマシンがあるのか、そして最新のM5 Max MacBookにプロンプトへ回答させるにはどれだけ漕がなければならないのか気になった。
要するにCrankGPT、私こそがターゲット顧客だ。デモ依頼に返事をしなければ、キーボードを回して悪いレビューをオンラインに書いてやる。あるいはLLMに電力を供給するローイングマシンを漕がせて代わりに書かせるか。待てよ…
業界がワットを有効な仕事の速度として、カロリーを非効率まで含めた総仕事量として使うようになったのも興味深い。カロリーも単なるエネルギー単位なのに。自転車では普通、単位変換に加えて、身体が使ったがペダル回転には使われなかったエネルギーを反映させるために、「カロリー」の値に4を掛けるような経験則を使う。ローイングマシンでも、カロリーを計算するなら似たような換算係数がありそうだ
ただし通常の速度では出力は3W程度しかなく、同じ速度を出すにはさらに5〜7Wほど余計に入れなければならない。最新のスマートフォンをかろうじてトリクル充電できる程度だ
スクランブルエッグ2個とコーヒー1杯だけでも、高次の思考を6時間くらい行える。
必要なのは、文脈逸脱を防いでくれる何かだ。/データセンターが使うエネルギーがスクランブルエッグ何個分に相当するのか検索し始める。世界中に鶏が何羽いるのかググる…/
問題は、そのあとさらに質問が増えることだが、AIは私が質問を思いついたりタイプしたりするより速く処理する。だから全体としては得だ
人間は残念ながらそれほど効率的ではない。挙げられていた150kcal/6h=600kcal/dayでは足りず、600kcalを作って家まで運ぶのにも600kcal以上のエネルギーがかかる。
しかも人間は常に存在しているので、「ChatGPTがX kW使うなら人を1人増やして雇うよりましだ」といった計算は成り立たない。人間は使っていなければ燃料を燃やさない存在ではなく、LLMの利用はCO2予算の範囲内で追加的に生産しなければならない追加エネルギーだ
「テック企業が大好きなAIに電力を供給するためガス発電所を建て、気候公約をひっそり放棄した」という文句が、ガスの煙突と原発の冷却塔が同じ野原にある背景画像の上に載っている。
AI反対論のこの特定の流れをよく表している場面のように見える。全体として混乱していて、右往左往している感じだ。
グリーンエネルギーは技術的にはすでに解決しているのに、その代わりに電力源として手作業に戻ろうというのか。笑える
もう少し説明すると、タービンで石油やガスを燃やすなら冷却塔は不要で、廃熱は排気ガスとともに大気へ出ていく。化石燃料や原子力で蒸気を作って蒸気タービンを回す場合は、廃熱を捨てても魚がゆで上がらないだけの流量がある川が必要になるか、熱を大気に放出するための冷却塔が必要になる
今はこれが風刺なのか、未来の実際の製品なのか見分けがつかない世界になっている
ウェブサイトへの悪口は許されないだろうから、その代わりにずっと読みやすい体験を提供するリンクを置いておく: https://squeezlabs.github.io/handcrank/
あのページのようなものの一番下にある「technical documentation」リンクから出てきたもの
ハンドルを回して動かせるという制約を置いて設計するという発想は、かなり気に入った
単に興味深い工学的課題というだけでなく、より効率的で持続可能な視点にもつながるかもしれないと感じる
Playdateのゲーム機はこういう用途に本当に向いている。あまりに退屈だったので、以前Playdate向けClaude Codeリモートコントローラーを作ったことがある
音声認識は parrot + handy.computer で処理した。基本的には異なるキーの組み合わせを異なる動作に結び付けていて、たとえば A を押して話す、クランクをゆっくり回してナビゲートする、クランクをものすごく速く回してプロンプトを送る、といった感じ
結局、家にあるコンピューターたちの汎用リモコンになった。Playdate UI → アクセシビリティイベントのバインドを含む YAML ファイルを使っていて、クランクで映画を操作するのは楽しい
ソースも共有できる。本当に役に立ちそうなら言ってほしい
それと、作者と私は趣味が似ている気がする。数年前には https://meat-gpt.sonnet.io で eBay で転売できる賞をほぼ受賞しかけた。3Dサンドイッチギャラリーに負けた
皮肉抜きで語るのは難しいが、人間の身体で機械知能に電力を供給するという概念を扱った小説やテレビエピソード、映画はすでにあったのではないか
あまりにも露骨に聞こえるが、冗談なのか本気の提案なのか見分けがつきにくい日もある
「音声エージェントの起動で最も遅い部分は [...] 大きな共有ライブラリ、特に ONNX Runtime を dlopen することと、Python が import グラフをたどりながら SD カード上で何百回も小さなランダム読み取りを行う部分」だと書かれている
ファイルシステム上で読み込まれる順番にファイルを配置すれば直せるのではないか? あるいは Python モジュールを無圧縮の zip ファイルから import すれば、必要な順番で格納しやすくなって、より速くなるかもしれない
昔の Windows にそういう機能があった気がする。システム起動時に読み込まれる順番に合わせて、ディスク上のデータを自動再配置するようなものだった