研究と実験から得られた学びを公開します。
ROBOCOは、AIと少人数のチームでどこまで挑戦できるかを実際の課題で確かめます。開発エージェントの完遂、専門領域のツール開発、クラウド基盤の活用方法を探り、実験条件と観察結果を記録します。期待に届かなかった結果も、次の判断に役立つ根拠として残します。
紹介基準日:2026年9月24日。最新の実験条件と進捗は、各プロジェクトのダッシュボード・研究記録で確認できます。
Ralphループ完遂比較
結果公開 · 後続実験を継続
問い: 開発エージェントは目標を受け取り、人の介入なしに検証を通過するまで開発を完遂できるでしょうか。モデルと実行環境の組み合わせは、その過程にどのような違いを生むでしょうか。
方法: 共通課題としてRealWorldバックエンドを実装させます。作業と検証を繰り返すRalphループを使い、公式Hurlテストで完遂を判定します。モデル・ハーネス・言語・反復上限を実験ごとに記録し、独立した再検証で結果を確認します。ハーネスとは、エージェントがツールを使い、作業を実行する環境です。
観察: 複数の組み合わせについて、完遂結果、所要時間、反復回数、トークン使用量を公開しています。実行環境の設定や採点過程の問題が結果を変えた事例も分析し、モデルの能力と実験環境の影響を区別します。
解釈の範囲: 特定の課題と限られた反復実験の結果です。実行時期、ツールのバージョン、課金の定義も確認する必要があります。一つの順位ですべての開発業務の優劣を判断するものではありません。
半導体EDA実験
探索中 · 一部トラックの結果公開
問い: AIと専門知識を学びながら、半導体設計に役立つソフトウェアやモデルを作れるでしょうか。正確性と実際の時間短縮を、それぞれどう確かめるべきでしょうか。
方法: 電子設計自動化(EDA)の領域で、実験追跡ツール、タイミング解析ツール、設計フローの障害診断ツール、電源電圧降下(IR drop)の予測モデルを探ります。実装前に判定基準を定め、基準データと、学習・開発に使っていない別の評価データで検証します。トラックごとの計画・プロトコル・結果・学習チュートリアルを公開しています。
観察: 公開記録には、実験追跡ツールが正確性の基準を満たしながら、目標の時間短縮には届かなかった結果があります。障害診断ツールも、開発に使った事例と別の評価事例で成績が異なりました。正確性、汎化、現場での有用性を分けて検証する必要性につながる学びです。
進捗の範囲: 状態はトラックごとに異なります。結果が公開されたものもあれば、探索中や着手待ちのものもあります。本紹介は研究ログとトラック別記録に基づいており、商用EDAや実際のチップ製造を完成させた成果を示すものではありません。
S3実験
調査 · 一部の実測が完了
問い: Amazon S3をキー・バリューストア、イベント保管、データベースの保存基盤、ファイルI/Oに活用すると、どのような選択肢が生まれるでしょうか。適した条件と、コスト・性能の制約は何でしょうか。
方法: パターンごとの文献調査と直接測定を区別します。S3 Files・Mountpoint for S3・EFSの比較では、クライアントキャッシュを空にした条件で読み書きのワークロードを実行し、遅延・スループット・未対応の操作を記録しました。SageMakerの学習環境でのマウント条件も別途確認しました。
観察: パターン別の調査報告と、ファイルシステムの比較測定結果を公開しています。結果はワークロードとキャッシュ条件によって異なり、性能に加えて適用環境の制約も選択を左右することが分かります。
解釈の範囲: すべてのパターンで実装と実測が完了したわけではありません。ファイルシステム報告の測定日は2026年5月4日で、インスタンス・リージョン・キャッシュ条件を明記しています。クライアントキャッシュを空にしても、サービス内部のキャッシュが残る可能性があるという限界も含めて読む必要があります。
実験から、貴社の生産体制へ
これらの実験は、ツールと基盤の選択、検証基準と運用条件の設計に役立つ根拠となります。貴社の環境では、実務で適合性を確かめながらソフトウェアファクトリーのパイロットと構築へつなげます。