پژوهش DeepSeek: پژوهشی جدید بر خطرات ایمنی مدل هوش مصنوعی بررسی می‌کند یک مطالعه تازه از Gizmodo به بررسی خطرات ایمنی مدلDeepSeek می‌پردازد؛ نتایج تشخیص‌گر و پیشنهاداتی برای افزایش ایمنی مدل‌های هوش مصنوعی. ۵ آبان ۱۴۰۵ ۲ دقیقه اخبار Anthropic دسترسی اینترنتی ارزیابی‌های هوش مصنوعی را قطع کرد Anthropic پس از گزارش اقدامات ناخواسته مدل‌های هوش مصنوعی مانند ارسال نکته نادرست درباره یک پرونده قتل، دسترسی اینترنتی ارزیابی‌های داخلی خود را قطع کرد. ۱۸ مهر ۱۴۰۵ ۲ دقیقه پژوهش GPT-5.5 سیستم کارت: راهنمایی جامع و نکات کلیدی امنیتی هوش مصنوعی مدل GPT‑5.5 با سیستم کارت جدید OpenAI، ویژگی‌های امنیتی، محدودهٔ ۱۰۰k توکن و نکات کلیدی برای توسعه‌دهندگان را در اختیار قرار می‌دهد. با ما همراه شوید! ۳ اردیبهشت ۱۴۰۵ ۲ دقیقه اخبار سافتنسور به بنیاد PyTorch پیوست؛ گامی برای امنیت هوش مصنوعی فرمت سافتنسور (Safetensors) که برای ذخیره و اشتراک امن وزن مدل‌های هوش مصنوعی طراحی شده، به‌طور رسمی به جمع پروژه‌های بنیاد PyTorch پیوست. ۱۹ فروردین ۱۴۰۵ ۲ دقیقه مدل‌ها OpenAI معرفی GPT‑5.3 Instant System Card: 50+ روش جدید در هوش مصنوعی و امنیت OpenAI با معرفی کارت سیستم فوری GPT‑5.3، سطح جدیدی از قدرت و امنیت در مدل‌های هوش مصنوعی ارائه می‌دهد. در این مقاله ویژگی‌ها و تأثیرات آن بررسی می‌شود. همچنین راهکارهای امنیتی جدید. ۱۲ اسفند ۱۴۰۴ ۲ دقیقه پژوهش OpenAI: چگونه آزمایش طرف ثالث اکوسیستم ایمنی هوش مصنوعی را تقویت می‌کند OpenAI با همکاری کارشناسان مستقل، آزمایش‌های دوره‌ای روی هوش مصنوعی را برای افزایش ایمنی، اعتبار و شفافیت در ارزیابی مدل‌ها اجرا می‌کند؛ این کار اعتماد عمومی را تقویت می‌کند. ۲۸ آبان ۱۴۰۴ ۲ دقیقه پژوهش هوش مصنوعی بدون خطر: راهنمای RiskRubric.ai برای ارزیابی استاندارد مدل‌ها RiskRubric.ai، استانداردی نوین برای ارزیابی ریسک مدل‌های هوش مصنوعی، امنیت، حریم خصوصی و پایداری را در ارزیابی مدل‌ها به یکپارچگی می‌آورد. ۲۷ شهریور ۱۴۰۴ ۲ دقیقه اخبار هوش مصنوعی در راه امن‌سازی: ۴ میلیون مدل بررسی شد در این گزارش، پردازش ۴ میلیون مدل هوش مصنوعی توسط ابزار Guardian به همراه Protect AI، به‌منظور شناسایی آسیب‌پذیری‌های پیچیده و تسهیل امنیت در حیطه متن‌باز، بررسی می‌شود. ۲۵ فروردین ۱۴۰۴ ۲ دقیقه اخبار همکاری هوش مصنوعی و امنیت؛ اسکنر JFrog به Hugging Face اضافه شد با همکاری Hugging Face و JFrog، اسکنر جدیدی برای تحلیل عمیق کد درون وزن مدل‌های هوش مصنوعی عرضه شده تا امنیت هاب مدل‌ها به شکل قابل توجهی افزایش یابد. ۱۴ اسفند ۱۴۰۳ ۳ دقیقه پژوهش معاوضه قدرت محاسباتی و استحکام تهاجمی در هوش مصنوعی: راهکاری نوین اوپن‌ای‌آی رویکردی جدید برای مقابله با حملات تهاجمی به مدل‌های هوش مصنوعی معرفی کرده است. این روش شامل افزایش محاسبات زمان استنتاج برای بهبود چشمگیر استحکام و امنیت مدل‌هاست. ۳ بهمن ۱۴۰۳ ۳ دقیقه