AI di sisi attacker bukan lagi cuma dipakai buat bikin phishing text atau bantu nulis script. Google Threat Intelligence Group (GTIG) melihat threat actor mulai menggabungkan AI ke workflow yang lebih otomatis: scanning, troubleshooting, credential harvesting, sampai abuse cloud resource. Buat tim security, yang berubah bukan cuma jenis ancamannya—tapi kecepatannya.
Dalam update September 2026, GTIG menyebut ada pergeseran dari prompt-based use ke agentic AI workflow dan AI-enabled automation. Artinya, AI mulai dipakai untuk menghubungkan beberapa tahap attack lifecycle, bukan cuma menyelesaikan satu task kecil.
Masalah utamanya ada di waktu. GTIG mencatat salah satu operasi di Q2 2026 di mana threat actor mengompromikan cloud resource lalu merencanakan, membangun, dan menjalankan mass credential harvesting berbasis agent dalam waktu kurang dari enam jam. Buat defender, window buat mendeteksi dan merespons bisa jauh lebih pendek.
Ini bagian yang penting supaya kita nggak overhype. GTIG belum mengatakan bahwa threat actor sudah menjalankan fully autonomous zero-day attack pipeline secara luas di dunia nyata. Yang terlihat sekarang lebih ke tradecraft yang makin matang: AI dipakai untuk mempercepat recon, scanning, troubleshooting, exploit development, dan automation.
Bukan cuma AI yang dipakai menyerang. Model, source code, prompt, API credential, akun AI, sampai cloud compute juga mulai jadi target bernilai tinggi. Salah satu risikonya adalah LLMJacking: cloud atau akun enterprise dibajak untuk menjalankan workload AI tanpa izin.
Credential tetap jadi titik penting. Pantau login aneh, token yang dipakai dari environment baru, service account yang tiba-tiba aktif, API key usage yang melonjak, dan perubahan privilege yang nggak nyambung dengan aktivitas normal. Agentic workflow tetap butuh akses; identity telemetry jadi salah satu tempat paling berguna untuk memutus rantainya.
Cari perubahan pola, bukan cuma signature. Contohnya outbound connection ke banyak target dalam waktu singkat, scanning burst, penggunaan compute yang naik tiba-tiba, egress yang nggak biasa, atau workload baru yang muncul dari project/subscription yang sebelumnya tenang. Buat cloud environment, gabungkan network flow, audit log, identity log, dan billing/usage signal.
GTIG juga membahas risiko di open-source dan AI-assisted coding workflow. Kalau tim pakai coding agent atau AI scanner, jangan anggap output-nya otomatis trusted. Dependency baru, perubahan package, script post-install, dan hasil auto-fix tetap perlu review dan kontrol CI/CD.
Fokus ke visibility dan response speed. Pastikan cloud audit log aktif, identity event masuk SIEM, alert untuk compute/egress anomaly tersedia, secret nggak disimpan sembarangan, dan automation punya least privilege. Yang paling penting: siapkan playbook untuk kasus ketika automation bergerak lebih cepat dari analyst.
Prioritas monitoring:
- Identity / token misuse
- Service account activity
- Cloud audit log
- Network flow / egress anomaly
- Compute spike
- New dependency / CI-CD change
- Unusual AI API usageAI nggak mengubah semua dasar security. Credential hygiene, segmentation, least privilege, logging, dan incident response tetap penting. Bedanya, automation bisa mempercepat semuanya—baik buat defender maupun attacker. Jadi keunggulan tim security akan makin ditentukan oleh seberapa cepat bukti dikumpulkan, dikorelasikan, dan ditindak.