最新機能「Computer Use」搭載Claude Code:CLIからGUIを直接操作可能に

Claude Codeがアップデートされました。今回の大きな目玉は「Computer Use」です。

簡単に言うと、Claudeがコマンドラインから直接Mac上のアプリケーションを起動し、ボタンをクリック、スクリーンショットを撮影、UIを操作して、その結果をフィードバックできるようになります。

Claude Codeの概観

コードの記述、コンパイル、アプリ起動、クリックテスト、バグ発見、修正、検証――これら一連の作業が、1つのターミナルセッション内で完結します。

【01 動作デモ】

公式ドキュメントとデモ映像では、ある完全なシナリオが紹介されています。ユーザーがClaude Code内で「SPM3000」というドット絵エディタプロジェクトを開き、「フィードバックチャンネルで、Genボタンが半分だけ表示された時点でERR 19が発生して停止したと報告が上がっている。SPM3000を開いて再現し、修正して。その後に新しいビルドを出して」と入力しました。

Claude Code CLIによるプロジェクト起動

Claudeはまず git status を実行し、Xcodeプロジェクトの構造を確認しました。そして……なんと直接SPM3000アプリを起動したのです。

【02 自律的な操作】

次にClaudeが行ったのは、予想外の行動でした。ターミナルに「Computer Useを有効にして、クリック操作をお手伝いします」と出力。/mcp コマンドを通じてComputer Useを有効化し、クリック、入力、スクリーンショットの機能を手に入れました。

Claudeがアプリを開きバグを再現

アプリを開き、(412, 580)座標のGENボタンをクリック。画面にドット絵の動物が表示されましたが、半分でレンダリングが停止。下部に「ERR 19、ROW 16/32、BUFFER OVERRUN」と表示されました。確認用のスクリーンショットを /tmp/gen-before.png に保存。レンダリングが16行目で中断していることを確認しました。

ClaudeがスクリーンショットでERR 19を確認

【03 バグの特定】

バグを確認した後、Claudeは得意分野であるコード解析に切り替えました。grep で ERR 19|rowIndex を検索。Sources/GenViewModel.swift の47行目と52行目に関連コードを発見。renderSprite() 関数を読み込んだ結果、パレットのロジックに問題があることが判明。パレットが空の場合、関数が直接 .err(19) を返してしまい、レンダリングが中断されていました。

Claudeがコード検索でバグを特定

【04 修正と検証】

修正はシンプルでした。元の guard let palette else { return .err(19) } を、lastGoodPalette にフォールバックする処理に変更。空のパレットだけでレンダリング全体が止まらないようにしました。

再コンパイルと修復の確認

コード修正後、xcodebuild -scheme SPM3000 -configuration Debug build を実行し、ビルド成功。再度アプリを起動し、GENボタンをクリック。今度は32行全てが正常にレンダリングされ、サングラスをかけたドット絵の動物が画面に完全表示され、アニメーションがループ再生されました。「完全なレンダリングに成功、32行全てパス、サングラスアニメーションもループ中。修正有効です。ビルドを作成しますか?」ユーザーは一言:「はい」。

修復後の完全なレンダリング結果

バグ報告を受けてから修正検証まで、わずか約2分。

クローズドループの開発フロー

【05 利用範囲】

現在「Computer Use」はリサーチプレビューとして提供され、macOS限定、ProまたはMaxサブスクリプションが必要。有効化方法は、セッション内で /mcp を入力し、computer-use を選択してEnableにするだけ。初回使用時はmacOSから「アクセシビリティ」(クリック・入力・スクロールの許可)と「画面収録」(画面表示の認識)のアクセス権を求められます。許可完了後、操作したい内容を直接指示するだけ。例:「MenuBarStatsをコンパイルして起動し、環境設定ウィンドウを開き、インタバルスライダーが正しくラベルを更新するか検証して」。Claudeが自律的にコンパイル、起動、操作、スクリーンショット取得を行います。

/mcpコマンドによるComputer Useの有効化

【06 万能ではない】

Claudeにはツールの使用に明確な優先順位が設けられています。MCPサーバーが設定されていれば優先。シェルコマンドで解決できるならBash。ブラウザ操作でChrome版Claudeがインストール済みならブラウザ。それらで対応できない場合のみComputer Useを発動。この設計は非常に合理的です。スクリーン操作は最も時間がかかるため、正確なAPIやコマンドで解決できる案件に「画面を見てマウスを操作する」手法を選ぶ必要はありません。Computer Useは、CLIやAPIがなくGUIのみを提供するアプリ用に確保された最終手段です。

ツール選択の優先順位

【07 活用シナリオ】

ドキュメントとデモから、主なユースケースは以下の通りです。

ネイティブアプリの検証:SwiftUIコード修正後、Claudeにコンパイル・起動・UIクリック・スクリーンショット確認を依頼。手動でアプリを開いて確認する手間を省けます。

エンドツーエンドUIテスト:ローカルのElectronアプリの「登録フローをテストして」と指示すれば、アプリ起動から登録完了、各ステップのスクリーンショット取得まで自律実行。Playwrightの記述やテストフレームワークの設定は不要。

視覚的バグのデバッグ:「モーダルが小窓で切り捨てられる」と伝えれば、自らウィンドウサイズを調整して再現、スクショ、CSS修正、検証を行います。

純粋GUIツールの制御:デザインツール、ハードウェアコントロールパネル、iOSシミュレーター、CLIインターフェースを持たない専用ソフトなど、Claude Code経由で操作可能になりました。

【08 セキュリティ対策】

Anthropicはセキュリティに厳しい制限を設けています。各アプリはセッションごとに個別承認が必要です。Finder操作?「このアプリは全ファイルに読み書き可能です」と許可を促します。ターミナル?「シェルアクセス権と同等」と警告します。これらの慎重な設計は妥当です。アプリ種別により権限が異なります:ブラウザ・取引プラットフォームは閲覧のみ。ターミナル・IDEはクリックのみ、入力は不可。それ以外は完全制御が可能です。作業中は他のウィンドウを隠し、承認済アプリのみと対話します。ターミナルウィンドウは常に表示されつつスクリーンショットから除外されるため、Claudeは自身の出力を見えず、プロンプトインジェクションのリスクを回避。Escキーを押せばいつでもComputer Useを中断し、制御権を奪い返せます。

【09 デスクトップ版との違い】

Claude DesktopにもComputer Useは搭載されています。CLI版との違いは有効化方法(/mcp コマンド vs 設定パネル)、「拒否アプリリスト」の設定未対応、ウィンドウの自動復元機能が強制有効である点。コアエンジンは同一です。

【10 将来展望】

本質的に、これは AIプログラミングアシスタントの「認識境界」がさらに広がったことを意味します。以前のClaude Codeはコードの読み書きやコマンド実行は可能でも「盲目」でした。実行結果がどう見えるかは見えず、CSSを変更すれば自分でブラウザで確認し、言葉で説明する必要がありました。しかし今は、自ら確認できるのです。「コードを書く者」と「コードを検証する者」が、ついに一体化しました。フロントエンド、モバイル、デスクトップアプリ開発にとって大きな変化です。「1行修正→手動確認」のループをClaudeが自律完結。現在はリサーチプレビュー、macOS限定、Claude Code v2.1.85以降が必要です。-p 非対話モードやTeam/Enterpriseプランは未対応。筆者もすでに使用済みです:

筆者の使用環境

関連リンク:https://code.claude.com/docs/en/computer-use

https://x.com/claudeai/status/2038663014098899416


分享網址
AINews·AI 新聞聚合平台
© 2026 AINews. All rights reserved.