Pada tahun 2025, kecerdasan buatan (AI) diprediksi akan menjadi elemen kunci dalam dunia keamanan siber. Menurut Willy Leichter, CMO AppSOC, AI akan digunakan oleh kedua belah pihak, baik penyerang maupun pembela, namun para penyerang akan lebih diuntungkan. Serangan seperti phishing yang dipersonalisasi dan pencarian kerentanannya akan semakin efisien dengan bantuan AI. Sementara itu, para pembela juga akan menggunakan AI, namun tantangan etika dan kendala praktis akan memperlambat adopsinya.

Chris Hauk, seorang pakar privasi konsumen, memprediksi bahwa 2025 akan menjadi tahun AI melawan AI, di mana kedua pihak menggunakan AI untuk mengembangkan serangan dan pertahanan baru. Penyerang juga akan semakin sering menargetkan sistem AI itu sendiri, memperluas area serangan dengan ancaman terhadap model dan dataset AI. Karl Holmqvist dari Lastwall menambahkan bahwa penggunaan alat AI tanpa dasar keamanan yang kuat bisa membawa konsekuensi serius di masa depan.

Selain itu, masalah rantai pasokan perangkat lunak akan semakin diperburuk dengan adopsi AI, yang membuat serangan terhadap dataset dan model menjadi lebih rumit. Michael Lieberman dari Kusari memperingatkan bahwa serangan yang memanipulasi model bahasa besar (LLM) akan semakin umum. Para penyerang, yang termotivasi secara finansial, kemungkinan akan lebih cepat mengembangkan metode serangan dibandingkan dengan para pembela.

Meski ada potensi besar untuk meningkatkan keamanan data, seperti informasi pribadi yang teridentifikasi (PII), penerapan AI dalam pengelolaan dan pengamanan data juga akan semakin meningkat. Meskipun demikian, banyak profesional keamanan yang mulai merasakan kekecewaan, karena manfaat praktis AI dalam keamanan belum dapat terwujud sepenuhnya, meskipun banyak hype yang beredar.