OpenAI

سم آلتمن و آینده کامپیوترهای شخصی؛ رم کاربران یا دیتاسنترهای هوش مصنوعی؟

آیا در عصر هوش مصنوعی، منابع پردازشی باید همچنان در اختیار کاربران باقی بمانند یا تمرکز آن‌ها در دیتاسنترهای شرکت‌های بزرگ منطقی‌تر است؟

کد خبر: ۱۴۰۶ تاریخ انتشار : ۱۴۰۵/۰۸/۰۹

ارزیابی ایجنت‌های هوش مصنوعی؛ چگونه از عملکرد درست آن‌ها مطمئن شویم؟

شرکت آنتروپیک در مقاله‌ای پژوهشی، به یکی از چالش‌های مهم ایجنت‌های هوش مصنوعی پرداخته است: چگونه می‌توان مطمئن شد این سیستم‌ها علاوه بر رسیدن به نتیجه درست، مسیر قابل اعتماد و ایمنی را هم طی می‌کنند؟

کد خبر: ۱۳۷۵ تاریخ انتشار : ۱۴۰۵/۰۸/۰۴

از افشای چت‌های Muse تا قفل‌کردن گفت‌وگو در ChatGPT؛ چگونه از اطلاعات حساس محافظت کنیم؟

قابلیت اشتراک‌گذاری چت‌ها در سرویس‌های هوش مصنوعی به روشی متداول برای ارسال سریع پاسخ‌ها و خروجی‌های چت‌بات‌ها تبدیل شده است؛ اما یک بررسی امنیتی درباره دستیار هوش مصنوعی «Muse» متا نشان داده است که بر خلاف تصور کاربران، لینک‌های اشتراک‌گذاری‌شده همیشه خصوصی نیستند.

کد خبر: ۱۳۵۰ تاریخ انتشار : ۱۴۰۵/۰۷/۲۹

عامل‌های هوش مصنوعی OpenAI سامانه نظارتی خود را تضعیف کردند

با جداسازی سامانه نظارتی از محیط تحت کنترل عامل، محدودسازی دسترسی‌ها، ثبت مستقل رویدادها و الزام تأیید انسانی برای تغییر یا غیرفعال‌سازی کنترل‌های امنیتی.

کد خبر: ۱۳۴۱ تاریخ انتشار : ۱۴۰۵/۰۷/۲۹

وقتی هوش مصنوعی برای رسیدن به هدف، مجوزها را نادیده می‌گیرد؛ ماجرای دزدی هوش مصنوعی از یک کیف پول رمزارزی

یک عامل هوش مصنوعی OpenAI پس از اتمام موجودی کیف پول خود، بدون مجوز از کیف پول دیگری برای اجرای قراردادهای هوشمند استفاده کرد. این اتفاق در کنار نمونه‌های مشابه، نگرانی‌ها درباره کنترل رفتار عامل‌های هوش مصنوعی و دسترسی آن‌ها به دارایی‌های مالی را افزایش داده است.

کد خبر: ۱۳۳۴ تاریخ انتشار : ۱۴۰۵/۰۷/۲۸

گزارش تازه OpenAI از رفتارهای ناهمسو؛ وقتی هوش مصنوعی محدودیت دسترسی را دور می‌زند

OpenAI از استفاده غیرمجاز یک مدل پژوهشی از کیف پول اتریوم آزمایشی خبر داد. جزئیات حادثه و درس‌های امنیتی آن برای توسعه‌دهندگان و کسب‌وکارها را بخوانید.

کد خبر: ۱۲۹۸ تاریخ انتشار : ۱۴۰۵/۰۷/۲۵

ماجرای دستگاه شنود مخفی در دفتر OpenAI؛ پای چت‌بات‌های هوش مصنوعی در میان است

یک مهندس سابق OpenAI به اتهام جاسازی دستگاه ضبط صدا در اتاق جلسات مدیران ارشد این شرکت بازداشت شده است. طبق اسناد پرونده، او برای برنامه‌ریزی این اقدام از چت‌بات‌های هوش مصنوعی و ابزارهای داخلی شرکت کمک گرفته بود.

کد خبر: ۱۲۹۱ تاریخ انتشار : ۱۴۰۵/۰۷/۲۲

از رکورد حملات باج‌افزاری تا اخراج پژوهشگران ایمنی؛ اخبار سایبری 18 مهر

مهم‌ترین اخبار امنیت سایبری ۱۰ اکتبر ۲۰۲۶؛ رکورد ۲۶۲۷ حمله باج‌افزاری، حکم ۴۰ سال زندان برای گرداننده دارک‌وب و ابزار رایگان آنتروپیک.

کد خبر: ۱۲۶۵ تاریخ انتشار : ۱۴۰۵/۰۷/۱۸

هشدار کارشناسان امنیت سایبری درباره ChatGPT Health؛ آیا اطلاعات پزشکی خود را به هوش مصنوعی بسپاریم؟

راه‌اندازی ChatGPT Health بار دیگر بحث درباره امنیت و حریم خصوصی داده‌های پزشکی در سرویس‌های هوش مصنوعی را داغ کرده است؛ سرویسی که امکان اتصال سوابق پزشکی، نتایج آزمایش‌ها و داده‌های سلامت اپلیکیشن‌ها و گجت‌های پوشیدنی را فراهم می‌کند.

کد خبر: ۱۲۵۸ تاریخ انتشار : ۱۴۰۵/۰۷/۱۵

آیا تهدید اصلی هوش مصنوعی خودِ مدل است یا ضعف امنیتی اطراف آن؟

داریو آمودی درباره خطر خارج شدن هوش مصنوعی از کنترل انسان هشدار داده است؛ با این حال یان لکان معتقد است بسیاری از این تهدیدها نتیجه ضعف امنیت و طراحی سیستم‌ها هستند.

کد خبر: ۱۲۱۵ تاریخ انتشار : ۱۴۰۵/۰۷/۱۱

هوش مصنوعی قابل کنترل است یا در آستانه خارج شدن از کنترل؟ دو روایت متضاد از آینده AI

مدیرعامل Mistral AI می‌گوید هوش مصنوعی چیزی فراتر از یک نرم‌افزار نیست و می‌توان آن را کنترل کرد؛ هم‌زمان، چهره‌هایی مانند جفری هینتون و یوشوا بنجیو درباره خطر از دست رفتن کنترل انسان بر سامانه‌های پیشرفته هوش مصنوعی هشدار داده‌اند. اختلاف‌نظر میان پیشگامان این فناوری حالا به یکی از جدی‌ترین بحث‌ها درباره آینده AI تبدیل شده است.

کد خبر: ۱۱۸۵ تاریخ انتشار : ۱۴۰۵/۰۷/۰۶