Silicon Valley Mulai Panik Soal AI. Dan Itu Bukan Candaan.

Orang-orang yang membangun AI justru menjadi salah satu kelompok yang paling vokal memperingatkan risikonya. Ironisnya, ketika alarm semakin keras, uang yang masuk ke industri AI juga belum menunjukkan tanda-tanda melambat.

Pengunduran diri Jacob Coxon dari Anthropic minggu ini kembali memicu kekhawatiran soal keamanan AI. Coxon, yang sebelumnya melakukan riset pretraining di OpenAI dan Anthropic, menuduh kedua perusahaan berlomba menuju self-improving superintelligence tanpa jaminan bahwa teknologi tersebut dapat tetap dikendalikan. Unggahannya menjadi viral dan telah dilihat lebih dari 100 juta kali, sekaligus menarik perhatian publik hingga pembuat kebijakan AS.

Kekhawatiran tersebut sebenarnya sudah muncul sebelum pengunduran diri Coxon. Pada akhir Juli, lebih dari 1.200 pekerja dari Anthropic, OpenAI, Google DeepMind, Meta, dan perusahaan AI lainnya menandatangani pernyataan yang meminta pemerintah AS membantu membangun mekanisme untuk memperlambat perkembangan frontier AI apabila kemajuannya mulai melampaui kemampuan manusia untuk mengendalikan teknologi tersebut.

Fenomena ini juga melahirkan istilah populer di komunitas AI: P(doom), yaitu estimasi subjektif mengenai probabilitas AI menyebabkan bencana ekstrem bagi manusia. CEO Anthropic Dario Amodei pernah memperkirakan risiko hasil yang sangat buruk berada di kisaran 10–25%, sementara Elon Musk pernah menempatkan estimasinya di sekitar 20%. Evan Hubinger, yang memimpin Alignment Science di Anthropic, bahkan mengatakan estimasi pribadinya untuk risiko kepunahan manusia akibat AI dalam dekade ini berada di atas 10%.

Ini bukan angka yang memiliki dasar probabilitas ilmiah presisi. Bahkan para ahli yang mengutip angka tersebut mengakui bahwa estimasinya sangat subjektif. Namun, fakta bahwa kekhawatiran datang dari orang-orang yang secara langsung mengembangkan teknologi AI membuat perdebatan ini semakin sulit diabaikan.

IPO Triliunan Dolar di Tengah Sirene Bahaya

Di tengah alarm tersebut, Anthropic justru semakin dekat dengan pasar modal. Perusahaan dilaporkan telah menyerahkan dokumen IPO secara rahasia kepada regulator AS pada Juni dan sedang mempertimbangkan listing sekitar Oktober atau setelahnya. Sejumlah laporan menyebut valuasinya dalam IPO dapat mendekati US$2 triliun, meski waktu dan valuasi final masih dapat berubah.

OpenAI juga telah mengambil langkah menuju pasar publik melalui confidential draft registration pada Juni 2026. Namun, berbeda dengan Anthropic, waktu IPO OpenAI masih jauh lebih tidak pasti dan sejumlah laporan mengarah pada kemungkinan listing pada 2027. Artinya, investor ritel saat ini belum dapat membeli saham Anthropic maupun OpenAI secara langsung.

Namun, eksposur terhadap pertumbuhan keduanya tetap tersedia melalui ekosistem perusahaan publik. Microsoft memiliki hubungan investasi dan komersial yang kuat dengan OpenAI, sementara Amazon juga telah meningkatkan eksposurnya ke OpenAI sekaligus menjadi salah satu pendukung terbesar Anthropic. Alphabet juga memiliki hubungan strategis dengan Anthropic.

Di sisi hardware, Nvidia tetap menjadi salah satu penerima manfaat terbesar dari pembangunan infrastruktur AI. Saham NVDA ditutup di US$218,36 pada 10 September. Bisnis Data Center Nvidia juga terus berkembang pesat, dengan revenue kuartal terbaru mencapai US$89,0 miliar, naik 117% dibandingkan periode yang sama tahun sebelumnya.

Uang Bicara Lebih Keras dari Kekhawatiran

Angka investasi menunjukkan bahwa peringatan soal AI belum menghentikan perlombaan infrastruktur. Amazon, Alphabet, Microsoft, dan Meta secara kolektif diperkirakan mengalokasikan sekitar US$725 miliar untuk capital expenditure sepanjang 2026, naik sekitar 77% dari tahun sebelumnya.

Tidak seluruh belanja tersebut secara langsung masuk ke AI. Namun, ekspansi data center, server, jaringan, chip, dan kapasitas komputasi untuk AI menjadi salah satu pendorong terbesar kenaikan capex. Selama siklus pembangunan infrastruktur ini berlanjut, perusahaan semikonduktor, cloud, dan Big Tech tetap memiliki eksposur besar terhadap pertumbuhan AI.

Paradoksnya semakin jelas. Di satu sisi, orang-orang di dalam industri memperingatkan bahwa teknologi berkembang terlalu cepat. Di sisi lain, perusahaan yang sama dan investor mereka terus menggelontorkan ratusan miliar dolar untuk mempercepat pembangunan infrastrukturnya.

Bagi pasar saham, titik baliknya mungkin bukan sekadar munculnya kekhawatiran baru, tetapi ketika kekhawatiran tersebut berubah menjadi kebijakan. Anggota Kongres AS dari kedua partai mulai membahas berbagai mekanisme pengawasan AI, mulai dari pembentukan komite khusus hingga aturan keselamatan yang lebih ketat. Namun, belum ada konsensus politik mengenai seberapa jauh pemerintah seharusnya membatasi pengembangan frontier AI.

Catatan untuk investor: Sentimen AI safety sejauh ini belum menghentikan siklus capex teknologi. Namun, jika tekanan publik berubah menjadi regulasi yang benar-benar membatasi kecepatan pengembangan model atau pembangunan infrastruktur, valuasi perusahaan yang paling bergantung pada pertumbuhan AI dapat mulai diuji. NVDA, MSFT, GOOG, AMZN, dan META tetap menjadi beberapa saham utama untuk memantau bagaimana Wall Street merespons perubahan narasi tersebut.