مطالعات جدید نشان می‌دهند که استفاده از مدل‌های زبانی برای تولید کد، بدون فرآیندهای مناسب Review و Security Testing، می‌تواند آسیب‌پذیری‌های جدی را وارد نرم‌افزار کند.
استفاده از ابزارهای هوش مصنوعی برای تولید کد به سرعت در حال گسترش است؛ اما تحقیقات سال ۲۰۲۶ همچنان وجود آسیب‌پذیری در خروجی این ابزارها را نشان می‌دهد.
یک مطالعه مقایسه‌ای جدید، کد تولیدشده توسط چند مدل زبانی را بررسی کرده و نشان داده است که آسیب‌پذیری‌های امنیتی در خروجی تمام مدل‌های مورد مطالعه مشاهده شده‌اند. پژوهشگران تأکید کرده‌اند که مسئله را نمی‌توان صرفاً به انتخاب یک مدل خاص نسبت داد و نوع وظیفه و نحوه استفاده از مدل نیز اهمیت زیادی دارد.
در نتیجه، استفاده از AI در برنامه‌نویسی باید با کنترل‌هایی مانند SAST، Code Review، تست امنیتی، بررسی وابستگی‌ها و اعتبارسنجی خروجی همراه شود.
برچسب‌ها: AI Coding، LLM، Secure Coding، SAST، Code Review