Munculnya model AI open-source yang kuat seperti DeepSeek telah membuat banyak perusahaan berusaha memblokir akses sesuai kebijakan keamanan mereka. Sementara tim AI semakin mengandalkan repositori open-source untuk memanfaatkan model canggih seperti DeepSeek, tim keamanan menghadapi tekanan besar untuk mencegah pengunduhan artefak dari sumber yang tidak tepercaya. Intinya jelas: organisasi sangat peduli dengan kepercayaan dalam rantai pasok AI mereka.
Itulah mengapa kami dengan bangga mengumumkan bahwa, mulai sekarang, semua pengguna Cisco Secure Endpoint dan Email Threat Protection dilindungi dari artefak berbahaya dalam rantai pasok AI, baik yang diunduh langsung dari repositori open-source seperti Hugging Face, dibagikan melalui email, atau diunduh dari drive bersama.
Memahami Keamanan Rantai Pasok AI
Di Cisco, kami melihat bahwa meskipun organisasi khawatir tentang berbagai masalah keamanan AI seperti prompt injection dan jailbreak, kekhawatiran utama mereka adalah risiko dalam rantai pasok AI. Tim ML menghadapi tantangan besar: tim keamanan sering memblokir akses ke platform seperti Hugging Face, yang menghambat penggunaan model open-source. Ini menciptakan ketegangan – inovasi open-source berkembang cepat, tetapi tim keamanan juga perlu melindungi organisasi dari model yang berpotensi berbahaya.
Keamanan Rantai Pasok AI mencakup praktik dan langkah-langkah untuk melindungi perusahaan dan aplikasi selama proses pengembangan dan penerapan AI. Ini termasuk mengamankan tumpukan perangkat lunak, data pelatihan, dan model pihak ketiga dari kerentanan seperti cacat perangkat lunak, masalah deserialisasi, backdoor arsitektur, dan keracunan data/model.
“Mengamankan rantai pasok AI bukan hanya kebutuhan teknis, tetapi fondasi kepercayaan dalam teknologi. Organisasi di seluruh dunia semakin menyadari bahwa keamanan rantai pasok sangat penting untuk melindungi aplikasi AI dan sistem tradisional dari kerentanan yang muncul di setiap tahap pengembangan dan produksi. Di Cisco, kami berkomitmen untuk memimpin upaya ini dengan memberikan perlindungan canggih kepada pelanggan kami terhadap ancaman yang muncul, memastikan inovasi tidak mengorbankan keamanan.”
Omar Santos, Distinguished Engineer, Security & Trust di Cisco dan Co-Chair of the Coalition for Secure AI
Tiga Pilar Keamanan Rantai Pasok AI
- Keamanan Perangkat Lunak
- Kerentanan di perpustakaan perangkat lunak yang dapat mengancam integritas sistem.
- Repositori tidak tepercaya, termasuk repositori yang dikonfigurasi secara jahat di platform seperti Hugging Face.
- Kerentanan dalam kerangka kerja populer seperti Langchain.
- Keamanan Model
- Malware yang tertanam dalam file model.
- Ketergantungan dengan kerentanan yang diketahui (misalnya, zlib.decompress).
- Backdoor arsitektur (misalnya, di lapisan Lambda).
- Model yang melanggar kebijakan perusahaan atau standar keamanan.
- Keamanan Data
- Potensi keracunan data selama proses pelatihan.
- Masalah lisensi dan kepatuhan terkait model atau data pelatihan.
- Tanggung jawab atas asal-usul data dan model.
Tantangan Saat Ini di Industri
Organisasi menghadapi beberapa tantangan dalam mengamankan rantai pasok AI:
- Tim keamanan tidak bisa mengandalkan proses pemindaian atau verifikasi model secara manual.
- Kerentanan model dapat membahayakan keamanan aplikasi dan perusahaan melalui eksekusi kode arbitrer atau backdoor.
- Proses keamanan saat ini sering menghambat kecepatan inovasi dan pengembangan.
“Repositori open-source seperti Hugging Face adalah tantangan menarik karena kita perlu mengaksesnya untuk memvalidasi model, tetapi itu juga sumber model yang berpotensi berbahaya. Ini adalah kebutuhan strategis untuk mengizinkan akses, tetapi juga kebutuhan keamanan untuk memblokir model berbahaya.”
Sarah Winslow, Director | PSEC Emerging Technologies & AI, Veradigm
Perkenalkan: Perlindungan Rantai Pasok AI di Secure Endpoint
Kami dengan bangga mengumumkan bahwa semua pelanggan Cisco Secure Endpoint sekarang mendapatkan perlindungan otomatis dari artefak berbahaya dalam rantai pasok AI yang berasal dari Hugging Face. Tidak perlu konfigurasi tambahan. Solusi ini menawarkan:
- Pemblokiran otomatis file berbahaya yang dikenal selama operasi baca/tulis/modifikasi.
- Perlindungan dari berbagai vektor ancaman, termasuk pengunduhan langsung dan pengiriman melalui saluran samping (misalnya, file ZIP melalui drive bersama).
- Kemampuan untuk mengonfigurasi peringatan atau karantina.
Selain itu, Cisco Email Threat Detection telah ditingkatkan untuk memblokir lampiran email yang mengandung artefak berbahaya dari rantai pasok AI.
Langkah Selanjutnya
Ini hanyalah awal dari komitmen kami terhadap keamanan rantai pasok AI. Masih banyak yang akan datang untuk melindungi pengembang sistem AI dari risiko rantai pasok. Seiring AI terus berkembang dan terintegrasi ke dalam sistem perusahaan, mengamankan rantai pasok AI menjadi semakin penting.
Dengan solusi keamanan AI dari Cisco, organisasi tidak perlu mengorbankan keamanan untuk inovasi.
Siap melindungi rantai pasok AI Anda?
Ingin Konsultasi lebih lanjut? silahkan hubungi sales kami sales@zealotus.biz.id sekarang juga! atau bisa hubungi nomor whatsapp kami disini. GRATIS!! Kami akan memberikan penawaran harga terbaik yang sesuai dengan kebutuhan Anda. Zealotus Network tempat sewa dan jual Produk IT Termurah, Terpercaya dan Terbaik di Jakarta.
#KeamananAI #RantaiPasokAI #CiscoSecureEndpoint #InovasiAman #AI #TeknologiMasaDepan
