رد هت یک شرکت امنیت هوش مصنوعی را خریداری کرد و قول متن‌باز کردن فناوری آن را داد

خریداری Chatterbox Labs توسط رد هت

شرکت رد هت، از غول‌های دنیای نرم‌افزار متن‌باز، از خریداری شرکت Chatterbox Labs که یک شرکت تخصصی در زمینه امنیت و ایمنی هوش مصنوعی است، خبر داد. این حرکت بخشی از استراتژی گسترش پلتفرم AI رد هت محسوب می‌شود. طبق وعده رد هت، فناوری این شرکت به مرور زمان متن‌باز (Open Source) خواهد شد که مطابق با رویه معمول این شرکت در آزاد کردن فناوری‌های اختصاصی است.

• پلتفرم AIMI شرکت Chatterbox Labs یک پلتفرم مستقل از مدل (Model-Agnostic) برای اعتبارسنجی سیستم‌های هوش مصنوعی ارائه می‌دهد.
• این پلتفرم دارای سه بخش اصلی است: AIMI for Gen AI برای سنجش ریسک مدل‌های زبانی بزرگ، AIMI for Predictive AI برای اعتبارسنجی معماری‌های سنتی AI و Guardrails برای جلوگیری از ورود پرمپت‌های ناامن.
• این فناوری می‌تواند فعالانه مدل‌ها را برای آسیب‌پذیری‌هایی مانند تزریق پرمپت، Jailbreaking و نشت داده بررسی کند.
• برای مشتریان رد هت، این ادغام به معنای داخلی‌سازی ابزارهای ایمنی در پلتفرم است، نه افزودن آن به عنوان یک الحاقیه.
• این acquisition قرار است محصولات موجود AI رد هت را تقویت کرده و مهر "امنیت برای AI" را به portfolio آن اضافه کند.

استیون هیولس، معاون مهندسی و استراتژی محصول AI در رد هت: "انتقال AI از آزمایشگاه به production توسط enterprises با سرعت زیادی در حال انجام است که ضرورت پیاده‌سازی‌های مطمئن، ایمن و شفاف AI را افزایش می‌دهد."

هیولس در ادامه افزود: "فناوری تست ایمنی و Guardrails مدل-آگنوستیک و نوآورانه Chatterbox Labs، لایه حیاتی 'امنیت برای AI' است که صنعت به آن نیاز دارد. با ادغام این شرکت، قول خود به مشتریان برای ارائه یک پلتفرم جامع متن‌باز را تقویت می‌کنیم." این خریداری به enable کردن هوش مصنوعی مسئولانه و production-grade در مقیاس کمک خواهد کرد.