, що генерують код, можуть створити реальну проблему для безпеки програмного забезпечення в майбутньому.){kind=link}
Mashinani o'rganish algoritmlari hozirda juda mashhur, chunki ular oldindan mavjud bo'lgan ulkan ma'lumotlar to'plamlari bo'yicha mashg'ulotlardan so'ng har qanday "asl" tarkibni yaratish uchun ishlatiladi. Biroq, sun'iy intellekt (AI) ishlab chiqaruvchi kod kelajakda dasturiy ta'minot xavfsizligi uchun haqiqiy muammo tug'dirishi mumkin.
GitHub Copilot kabi sun'iy intellekt tizimlari tabiiy tildagi matn ma'lumotlari va oldindan mavjud kontekst asosida "yangi" kodning butun qismlarini yaratish orqali dasturchilarning hayotini osonlashtirishga va'da beradi. Ammo kod ishlab chiqarish algoritmlari xavfsizlik omilini ham kiritishi mumkin, chunki yaqinda bir nechta ishlab chiquvchilar ishtirok etgan yangi tadqiqot aniqlangan.
Kodeksga, OpenAI tomonidan ishlab chiqilgan sun'iy intellekt platformasiga qarasak, u ayni paytda yuqorida aytib o'tilgan GitHub Copilot dasturining kod mexanizmi hisoblanadi, tadqiqotda 47 xil ishlab chiquvchilar ishtirok etdi. Talabalardan tortib to tajribali mutaxassislargacha Python, JavaScript, C va boshqa yuqori darajadagi dasturlash tillarida xavfsizlik bilan bog‘liq muammolarni hal qilish uchun Codex’dan foydalanish talab qilingan.
Tadqiqotchilarning taʼkidlashicha, dasturchilar Codex’ning sunʼiy intellektiga kirish imkoniga ega boʻlganda, natijada olingan kod nazorat guruhi tomonidan ishlab chiqilgan “qoʻlda” yechimlar bilan solishtirganda notoʻgʻri yoki xavfli boʻlishi mumkin edi. Bundan tashqari, sun'iy intellektga asoslangan yechimlarga ega bo'lgan dasturchilar yuqorida aytib o'tilgan nazorat guruhiga qaraganda, ularning himoyalanmagan kodlari xavfsiz ekanligini aytishlari mumkin edi.
Stenford universiteti aspiranti va tadqiqotning yetakchi hammuallifi Ale Perrining aytishicha, “kod ishlab chiqaruvchi tizimlar hozirda inson ishlab chiquvchilarning o‘rnini bosa olmaydi”. Uning so‘zlariga ko‘ra, ishlab chiquvchilar sun’iy intellekt vositalaridan o‘z vakolatlaridan tashqari vazifalarni bajarish yoki allaqachon ma’lum ko‘nikmalarga ega bo‘lgan dasturlash jarayonini tezlashtirish uchun foydalanishi mumkin. Tadqiqot muallifining so'zlariga ko'ra, ular ikkalasidan ham tashvishlanishlari va har doim yaratilgan kodni tekshirishlari kerak.
Stenford universiteti aspiranti va tadqiqotning ikkinchi hammuallifi Megha Srivastavaning so‘zlariga ko‘ra, Codex befoyda emas: “soqov” sun’iy intellektning kamchiliklariga qaramay, kod ishlab chiqarish tizimlari past xavfli vazifalarni bajarishda foydali bo‘lishi mumkin. Bundan tashqari, tadqiqotda ishtirok etgan dasturchilar xavfsizlik masalalarida ko'p tajribaga ega emas edilar, bu zaif yoki xavfli kodni aniqlashda yordam berishi mumkin, dedi Srivastava.
Kodlash takliflarini yaxshilash uchun sun'iy intellekt algoritmlari ham o'zgartirilishi mumkin va o'z tizimlarini ishlab chiquvchi kompaniyalar o'zlarining xavfsizlik amaliyotlariga ko'proq mos keladigan kod ishlab chiqaradigan model yordamida yaxshiroq echimlarni olishlari mumkin. Tadqiqot mualliflarining fikricha, kod yaratish texnologiyasi “hayajonli” ishlanma bo‘lib, ko‘pchilik undan foydalanishga ishtiyoqmand. Shunchaki, sun’iy intellektning kamchiliklarini bartaraf etish bo‘yicha to‘g‘ri echimlarni topish borasida hali ko‘p ish qilish kerak.
Siz Ukrainaga rus bosqinchilariga qarshi kurashda yordam bera olasiz. Buning eng yaxshi yo'li - Ukraina Qurolli Kuchlariga pul mablag'larini berishdir Savelife yoki rasmiy sahifa orqali NBU.
Shuningdek, qiziqarli: