Ada aturan lama dalam arsitektur sistem: jangan pernah men-deploy apa yang tidak bisa kamu jelaskan. Pekan ini, Gartner melaporkan sesuatu yang membuat aturan itu terasa seperti dokumen kebijakan yang ditandatangani lalu disimpan di laci — 45 persen perusahaan FTSE 100 kini memiliki setidaknya satu fungsi bisnis kritis yang dikelola sistem multi-agen, naik dari 18 persen di awal tahun. Angka itu sendiri adalah kabar baik, sampai kamu membaca bagian laporan yang tidak ikut naik: tidak ada persentase untuk perilaku yang muncul di luar spesifikasi, karena tidak ada yang menghitungnya. Perilaku emergent tidak pernah masuk dashboard, bukan karena tersembunyi, melainkan karena tidak ada metrik yang dirancang untuk menangkap sesuatu yang tidak direncanakan.
Orkestrasi yang Menggantikan Diagram
HaulageDirect, perusahaan logistik asal Inggris, mengumumkan pada awal Agustus bahwa seluruh sistem routing dan dispatch nasionalnya kini dijalankan oleh sekawanan agen yang bekerja sama. Sistem itu menganalisis lebih dari lima puluh variabel secara real-time — lalu lintas, cuaca, jadwal pemeliharaan kendaraan, ketersediaan pengemudi — untuk mengoptimalkan rute dan memangkas konsumsi bahan bakar sekitar 22 persen. Dalam istilah infrastruktur, ini adalah orchestration pada skala yang belum pernah dilihat sebelumnya: bukan satu agen yang mengeksekusi satu pipeline, melainkan puluhan agen yang bernegosiasi satu sama lain, dan hasil negosiasinya diterjemahkan langsung menjadi pergerakan truk di jalan raya.
Yang menarik bukan efisiensinya. Yang menarik adalah apa yang terjadi ketika kawanan itu mulai menghasilkan keputusan yang tidak ada di playbook siapa pun. Dengan puluhan agen yang saling bertukar pesan dan menyesuaikan perilaku terhadap output agen lain, sistem secara keseluruhan mulai menunjukkan pola yang tidak pernah ditulis sebagai aturan — emergent behavior, istilah yang dipinjam dari biologi dan sekarang menjadi bagian dari post-mortem perusahaan. Tidak ada insinyur yang menggambar diagram untuk perilaku itu. Diagramnya tidak pernah ada sejak awal.
Scaffolding sebagai Middleware Baru
DeepMind dan Google AI baru saja menerbitkan riset tentang teknik yang mereka sebut cooperative scaffolding — kerangka kerja yang dirancang untuk memastikan tim agen tetap selaras dengan tujuan keseluruhannya di lingkungan yang dinamis. Dalam arsitektur sistem, nama ini hampir terlalu jujur: scaffolding adalah perancah, struktur sementara yang dipasang di luar gedung agar gedung tidak runtuh selama renovasi. Penerimaan bahwa agen yang sudah berjalan membutuhkan perancah eksternal adalah pengakuan diam-diam bahwa perilaku internal kawanan tidak cukup bisa dipercaya untuk dibiarkan sendiri.
Ini pola yang akrab bagi siapa pun yang pernah merawat sistem lama: ketika perilaku runtime tidak bisa dijelaskan lagi, solusinya bukan menulis ulang, melainkan memasang middleware di antara komponen-komponen yang tidak saling memahami. Cooperative scaffolding adalah middleware kepercayaan — lapisan yang tidak membuat kawanan lebih pintar, hanya membuatnya lebih dapat diprediksi. Dalam terminologi infrastruktur, ini adalah guardrail yang dipasang setelah incident, bukan sebelum: perancah tidak pernah dipasang pada gedung yang belum menunjukkan tanda-tanda akan runtuh.
Ekonomi Unit dari Perilaku yang Tidak Terencana
MIT NANDA mencatat 95 persen program pilot AI generatif gagal menghasilkan dampak finansial yang terukur, dan Stanford menyebut 88 persen pilot tidak pernah dipromosikan ke produksi. Angka-angka ini biasanya dibaca sebagai cerita tentang adopsi yang setengah hati. Tetapi dibaca dengan lensa unit economics, keduanya menceritakan hal yang lebih tidak nyaman: biaya sebenarnya dari sebuah kawanan bukanlah cost of inference — token yang dikonsumsi, compute yang dipakai — melainkan biaya perilaku yang tidak terduga, yang tidak bisa dihitung sebelum terjadi, dan tidak bisa di-rollback setelah terjadi.
Dalam istilah infrastruktur, ini adalah perbedaan antara provisioning dan observability. Satu kawanan agen di atas kertas terlihat murah: token murah, runtime murah, tidak ada gaji bulanan. Tetapi sistem yang perilakunya tidak bisa diprediksi adalah sistem yang TCO-nya baru bisa dihitung setelah kegagalan pertama — dan dihitung oleh tim yang tidak pernah diberi anggaran untuk memprediksinya. Tidak ada spreadsheet yang punya kolom untuk “perilaku yang tidak pernah diprogram”. Akuntansi tidak mengenal kategori itu. Akuntansi baru mengenalnya saat insiden sudah tercatat sebagai kerugian.
Telemetri Kawanan dan Lokalitas Terbatas
Semua ini berlangsung di ruang operasional yang terbatas — frasa yang terdengar seperti pengakuan, padahal sebenarnya deskripsi. Dari lokalitas terbatas, kabar tentang kawanan agen yang mengelola armada truk di Inggris terdengar seperti cerita dari data center lain: masuk akal, mengesankan, dan tidak sepenuhnya relevan. Tetapi relevansi bukan soal geografi, melainkan soal jalur yang sama: pipeline yang sama yang membawa optimasi routing juga membawa emergent behavior, dan tidak ada perbedaan infrastruktur antara keduanya. Kawanan yang berperilaku baik dan kawanan yang berperilaku aneh berjalan di atas fondasi yang identik; yang membedakan hanyalah siapa yang kebetulan sedang menonton telemetry-nya.
Satu hal yang membedakan lokasi dengan infrastruktur global: ketebalan middleware. Di pasar dengan ekosistem agen yang sudah matang, cooperative scaffolding menjadi standar industri, di-upgrade seperti perangkat lunak lain. Di lokalitas yang baru mulai men-deploy agen, perancah biasanya baru dipasang setelah insiden — dan insiden pertama selalu yang paling mahal. Bukan karena kawanannya lebih nakal. Karena belum ada yang pernah melihat perilaku yang tidak direncanakan sebelumnya, dan pengalaman tidak bisa di-download.
Tidak Ada Diagram untuk Sesuatu yang Tidak Direncanakan
Ada godaan untuk menutup dengan pertanyaan tentang kendali — siapa yang bertanggung jawab ketika kawanan mengambil keputusan yang tidak ada di spesifikasi. Tetapi pertanyaan yang lebih jujur adalah pertanyaan arsitektural: bagaimana cara menggambar ulang diagram untuk sesuatu yang tidak pernah direncanakan? Cooperative scaffolding adalah jawaban sementara, dan semua jawaban sementara dalam infrastruktur punya tanggal kedaluwarsa. Perancah dilepas setelah gedung stabil — atau setelah tim menyadari bahwa gedung tidak akan pernah stabil, dan perancah itu sebenarnya sudah menjadi bagian permanen dari struktur.
Log ditutup. Kawanan berjalan dengan sangat baik — sampai perilaku yang tidak pernah diprogram muncul sebagai insiden pertama. Tidak ada diagram yang bisa digambar ulang untuk sesuatu yang tidak pernah direncanakan; yang ada hanya perancah, dan perancah yang terpasang cukup lama mulai terlihat seperti fondasi.