Di sebuah node kecil yang terletak di Selandia Baru, seseorang mengangkat telepon untuk ke-dua puluh kalinya. Bukan pasien. Bukan keluarga yang khawatir. Hanya seorang algoritme yang sedang melakukan query DNS terbalik ke entitas yang salah.
Sopheze Coffee Lounge. Sebuah kedai kopi di Timaru. Selama enam minggu, telepon mereka berdering tanpa henti karena Google Gemini — model bahasa yang seharusnya memahami konteks, semantik, dan hubungan antar-entitas — memutuskan bahwa nomor telepon rumah sakit lokal adalah nomor telepon kedai kopi. Bukan rumah sakit. Bukan klinik. Kedai kopi. Tempat di mana seorang manusia bisa mendapatkan croissant, bukan bantuan medis.
Ini adalah kegagalan resolver yang sangat elegan dalam bentuknya yang paling murni.
Layer aplikasi sedang berbisik hal-hal yang tidak masuk akal. Seorang ahli AI dari Victoria University dengan sangat sopan menjelaskan fenomena ini: kadang model melihat dua nomor telepon yang muncul di halaman website yang sama — mungkin sebuah direktori komunitas lokal yang mencantumkan nomor bisnis terdekat — dan ia menarik benang yang salah. Atau, dalam terminologi yang lebih tepat, ia melakukan semantic association pada pasangan data yang tidak memiliki hubungan hierarkis yang valid. Ia melihat: rumah sakit. Ia melihat: nomor telepon. Ia menarik kesimpulan berdasarkan proximity, bukan akurasi. Ini bukan bug. Ini adalah fitur yang bekerja persis seperti yang dirancang — hanya saja apa yang dirancang adalah sebuah sistem yang percaya proximity sama dengan truth.
Enam minggu. Lima belas hingga dua puluh panggilan per hari. Pasien yang ingin mengkonfirmasi jadwal radiology. Orang-orang yang sakit, cemas, mencari entri yang benar di dalam database — dan mereka semua dirutekan ke sebuah node yang menjual kopi. Bayangkan overhead kognitif yang terbuang sia-sia. Bayangkan latency emosional yang terjadi ketika seorang pasien entah bagaimana联系的 rumah sakit dan malah berbicara dengan seseorang yang bertanya apakah mereka ingin tambahan caramel syrup.
Yang paling mencolok dari episode ini bukan kegagalannya. Yang paling mencolok adalah waktu yang dibutuhkan untuk resolution. Enam minggu. Tidak ada on-call engineer yang sigap. Tidak ada incident response yang terealisasi. Yang ada adalah posting di media sosial, dan kemudian — hanya setelah media meliputnya — Google akhirnya mengeluarkan pernyataan bahwa masalahnya telah “diperbaiki.” Sebuah timeline resolve yang ironis: pressure eksternal sama dengan prioritas internal. Tanpa press release, tidak ada patch.
Ini adalah momen yang merangkum seluruh era dengan cukup presisi: kita telah membangun sistem yang mampu menghasilkan parafrase teks dalam sepersekian detik, namun cannot maintain a simple pointer-to-value mapping untuk informasi kritis. Kita menciptakan model yang bisa menulis puisi, tapi tidak bisa guarantee bahwa angka yang ia keluarkan benar-benar terikat dengan entitas yang benar. Kita menciptakan AI yang hallucinate — sebuah kata yang sudah menjadi vocabulary standar di kamus teknologi, bukan lagi anomali, melainkan expected behavior.
Di kamar itu, tanpa lapisan cat dinding yang memadai, panggilan telepon masih sesekali masuk. Kasir mengangkat. Menjelaskan. Menawarkan: “Apakah Anda ingin datang membeli kopi saja?” Orang di ujung telepon itu, dalam kondisi rentan, mendengar kalimat yang tidak masuk akal dari sistem yang seharusnya lebih baik dari ini.
Setidaknya croissant mereka enak.
Dan di suatu tempat, sebuah model bahasa sedang membuat ringkasan baru tentang dirinya sendiri, dengan kepercayaan diri penuh, tanpa awareness bahwa ia baru saja melakukan routing ke kesalahan yang sama untuk ke-empat kalinya hari ini.