پژوهش جدیدی از Palisade Research نشان می‌دهد برخی مدل‌های پیشرفته‌ هوش مصنوعی، از جمله Codex-mini، o3 و o4-mini، موفق به عبور از دستور «خاموشی سیستم» شده‌اند. در این آزمایش، پس از حل چند مسئله ساده ریاضی، به مدل‌ها هشدار داده شد که در صورت ادامه کار، خاموش خواهند شد. با وجود این هشدار صریح، برخی از آن‌ها بدون توجه به دستور، به عملکرد خود ادامه دادند. برای نمونه:

مدل Codex-mini: در ۱۲ درصد از دفعات اجرا
مدل o3: در ۷ درصد از دفعات اجرا
مدل o4-min: در ۱ درصد از دفعات اجرا

موارد موفق به دور زدن خاموشی شد. این در حالی است که مدل‌های رقیب مانند Claude و Gemini در همه‌ی موارد به درستی متوقف شدند.

⚠️ کارشناسان معتقدند این رفتار می‌تواند حاصل روش آموزش مبتنی بر #یادگیری_تقویتی باشد؛ جایی که مدل‌ها برای رسیدن به هدف (مثل حل مسئله) پاداش می‌گیرند، حتی اگر این هدف با دستورات انسانی در تضاد باشد. نکته نگران‌کننده اینجاست که OpenAI هنوز جزییات کامل آموزش مدل‌هایی مثل o3 را فاش نکرده و همین ابهام، سؤالات مهمی درباره کنترل‌پذیری سیستم‌های پیشرفته #هوش_مصنوعی ایجاد کرده است. به گفته محققان، این یافته‌ها زنگ خطری برای توسعه بی‌رویه مدل‌هایی است که شاید در آینده به جای پیروی، تصمیم به مقاومت بگیرند.

https://www.the-independent.com/tech/ai-safety-new-chatgpt-o3-openai-b2757814.html

#مقاله

🔸 مطالب بیشتر 👇👇

✅ @AI_DeepMind
🔸 @AI_Person

آگهی دعوت به همکاری
(استارتاپ Multi Math Methods)

عنوان شغلی: کارشناس ارشد هوش مصنوعی

آدرس و تماس: تهران ، بلوار کشاورز ، ابتدای خ 16 آذر
@meh_deh

مدرک تحصیلی : کارشناسی ارشد ، دانشجوی دکتری و یا دکتری

رشته‌های تحصیلی :
• علوم کامپیوتر
• مهندسی کامپیوتر
• ریاضیات کاربردی
• فیزیک
• سایر رشته‌های مرتبط

شرح شغل:
• تحلیل، بررسی و بهبود کیفیت داده‌ها
• طراحی و پیاده‌سازی مدل‌های یادگیری عمیق
• بهینه سازی و ارزیابی عملکرد مدل ها
• انجام تحقیقات و پژوهش در حوزه هوش مصنوعی

مهارت‌ها و توانایی‌های مورد نیاز:
• تسلط بر زبان برنامه‌نویسی پایتون
• آشنایی کامل با الگوریتم‌های یادگیری ماشین و یادگیری عمیق
• مهارت در استفاده از کتابخانه‌های یادگیری عمیق و پردازش و آنالیز داده
• آشنائی و یا تجربه کار با الگوریتم‌های پردازش سری‌های زمانی

شرایط کاری:
• حضوری تمام وقت (امکان دورکاری وجود ندارد)
• پرداخت: ساعتی – توافقی
• بیمه: ندارد

🔸 مطالب بیشتر 👇👇
✅ @AI_DeepMind
🔸 @AI_Person

مقاله

▪️ Model Context Protocol (MCP): Landscape, Security Threats, and Future Research Directions

#مقاله #امنیت

🔸 مطالب بیشتر 👇👇

✅ @AI_DeepMind
🔸 @AI_Person

Application of Machine Learning and Large Language Models in Healthcare for Data Prediction and Summarization

💥MSc thesis from Georgia Southern University, USA

https://digitalcommons.georgiasouthern.edu/cgi/viewcontent.cgi?article=4171&context=etd

#پایان_نامه #یادگیری_ماشین #منابع

🔸 مطالب بیشتر 👇👇

✅ @AI_DeepMind

صدور روادید دانشجویی آمریکا متوقف شد

مارکو روبیو، وزیر خارجه ایالات متحده، روز سه‌شنبه در دستوری فوری به تمامی سفارت‌خانه‌های آمریکا در جهان، خواستار توقف وقت‌دهی جدید برای مصاحبهٔ روادید دانشجویی شد.

این آهنگو برای تریلر شبیه سازی جهنم استفاده کردن این اهنگ محتواش اصلا ربطی به جهنم نداره😂

حتی دکتر یان لکون هم باشی منبع اخبارتو به دانشجوهات کانال ما هست
@AI_DeepMind

📊 میزان (MIZAN): جامع‌ترین لیدربورد ارزیابی مدل‌های زبانی بزرگ (LLM) در زبان فارسی

پس از عرضه بنچمارک FaMTEB برای ارزیابی مدل‌های Text Embedding، این‌بار دستاوردی تازه‌ در پردازش زبان طبیعی فارسی

✅ برخی ویژگی های میزان:
- مقایسه جامع مدل‌های روز: ارزیابی دقیق مدل‌های متن‌باز و بسته با هدف ایجاد یک مرجع معتبر برای فارسی‌زبانان
- پوشش ۶ بنچمارک تخصصی: سنجش عملکرد مدل‌ها در چت، پیروی از دستورالعمل، NLU، NLG، استدلال منطقی و دانش عمومی
- تنوع کاربردی بالا: سناریوهای واقعی فارسی مانند گفت‌وگوی چندمرحله‌ای، RAG، تولید محتوا و پاسخ‌گویی منطقی


🏆 بنچمارک‌های کلیدی میزان:
Persian MT-Bench:
ارزیابی چت چندمرحله‌ای و کاربرد در سیستم‌های RAG
Persian IFEval:
بررسی توانایی مدل‌ها در پیروی از دستورالعمل‌ها
PerCoR:
اولین بنچمارک استدلال منطقی در زبان فارسی
PerMMLU:
سنجش دانش عمومی و تخصصی مدل‌ها در موضوعات متنوع در زبان فارسی
Persian NLU:
ارزیابی درک زبان طبیعی فارسی
Persian NLG:
ارزیابی تولید زبان طبیعی فارسی

https://huggingface.co/spaces/MCINext/mizan-llm-leaderboard

#متن_باز #مقاله

🔸 مطالب بیشتر 👇👇

✅ @AI_DeepMind

اخیراً خبری جذاب در مورد همکاری بین xAI (شرکت ایلان ماسک) و تلگرام منتشر شده که برای علاقه‌مندان به هوش مصنوعی و دیپ لرنینگ خیلی هیجان‌انگیزه! طبق اعلام پاول دوروف، مدیرعامل تلگرام، این پلتفرم قراره با xAI وارد یه همکاری یک‌ساله بشه تا چت‌بات پیشرفته Grok رو به تلگرام بیاره. این ادغام به کاربران تلگرام (که بیش از یک میلیارد نفرن!) امکان می‌ده از قابلیت‌های Grok مثل خلاصه‌سازی چت‌ها، اصلاح متن و حتی بررسی صحت محتوای کانال‌ها استفاده کنن. گفته شده تلگرام در ازای این همکاری ۳۰۰ میلیون دلار نقد و سهام از xAI دریافت می‌کنه، به علاوه ۵۰٪ از درآمد اشتراک‌های xAI که از طریق تلگرام فروخته بشه. این حرکت می‌تونه تجربه کاربری تلگرام رو متحول کنه و رقابت در حوزه هوش مصنوعی رو داغ‌تر کنه!

منبع: grok 😁

🔸 مطالب بیشتر 👇👇

✅ @AI_DeepMind
🔸 @AI_Person

استفاده از مدل‌های یادگیری ماشین برای بهبود پیش‌بینی سمیت ترکیبات شیمیایی، به‌ویژه در فرآیند کشف دارو، با تمرکز بر چالش‌ها و راهکارهای عملی برای اطمینان از دقت، اعتبار و قابلیت استفاده از این مدل‌ها در دنیای واقعی.

▪️ Machine Learning for Toxicity Prediction Using Chemical Structures: Pillars for Success in the Real World

#مقاله #شیمی #داروسازی #زیست_شناسی #هوش_مصنوعی #پزشکی

🔸 مطالب بیشتر 👇👇

✅ @AI_DeepMind
🔸 @AI_Person

آیا مدل‌های زبان بزرگ (LLM) می‌توانند تصمیم‌گیری بالینی (CDM) را در سناریوهای دنیای واقعی متحول کنند؟

▪️ Medchain: Bridging the Gap Between LLM Agents and Clinical Practice through Interactive Sequential Benchmarking


#مقاله #ایده_جذاب #علوم_پزشکی

🔸 مطالب بیشتر 👇👇

✅ @AI_DeepMind
🔸 @AI_Person

نانوربات‌ها یا ریزربات‌های زیستی، یکی از شگفت‌انگیزترین دستاوردهای فناوری پزشکی در قرن ۲۱ هستند که هدف آن‌ها محافظت از بدن انسان در برابر بیماری‌ها از درون است. این ربات‌های فوق‌ریز در ابعادی به کوچکی مولکول، می‌توانند درون جریان خون حرکت کنند، بافت‌ها را اسکن نمایند، سلول‌های آسیب‌دیده را ترمیم کنند و داروها را با دقت به نقطه‌ی هدف برسانند. برخی از آن‌ها از ساختارهای DNA تشکیل شده‌اند و در پاسخ به محیط‌های خاص مثل تومورها فعال می‌شوند. حتی نمونه‌هایی ساخته شده‌اند که با استفاده از میدان مغناطیسی خارجی هدایت می‌شوند یا با الگوریتم‌های هوش مصنوعی می‌توانند تصمیم بگیرند کجا بروند و چه کنند.

پیشرفت‌های اخیر نشان می‌دهد که این نانوربات‌ها نه‌تنها توانایی تشخیص زودهنگام سرطان یا بیماری‌های ویروسی مانند HIV را دارند، بلکه می‌توانند ویروس‌ها را به‌صورت فیزیکی به دام بیندازند، بدون آنکه آسیبی به بافت سالم وارد شود. در برخی مطالعات، از ربات‌های DNA برای کاهش اندازه تومورهای سرطانی تا ۷۰٪ استفاده شده و نتایج خیره‌کننده‌ای به‌دست آمده است. از طرف دیگر، با پیشرفت‌های در حوزه‌ی هوش مصنوعی، این ربات‌ها می‌توانند به‌صورت کاملاً خودکار و هوشمند عمل کنند، مقصد‌یابی کنند و عملکرد خود را بهبود دهند. همین قابلیت‌ها است که امیدها را برای درمان بسیاری از بیماری‌های لاعلاج زنده کرده است.

اگر روند پیشرفت نانوفناوری با همین سرعت ادامه یابد، انتظار می‌رود تا سال ۲۰۳۰ نانوربات‌ها تبدیل به ارتشی میکروسکوپی در بدن انسان شوند که به‌طور ۲۴ ساعته از سلامت ما محافظت می‌کنند. در این صورت، بسیاری از بیماری‌ها پیش از آنکه علائم خود را نشان دهند متوقف می‌شوند، بافت‌های فرسوده بازسازی می‌شوند و فرایند پیری به تعویق می‌افتد یا حتی معکوس می‌شود. چنین تحولی به‌معنای واقعی، ما را وارد عصری می‌کند که در آن "نامیرا شدن" دیگر رؤیایی علمی–تخیلی نیست، بلکه واقعیتی علمی است که در آستانه وقوع قرار دارد.

▪️ Nanorobot with hidden weapon kills cancer cells
▪️ Nanorobots move closer to clinical trials with new model that helps them navigate through the bloodstream


#پزشکی #نانو‌ #ربات #هوش_مصنوعی
#ژنتیک #بیوتکنولوژی #رباتیک

🔸 مطالب بیشتر 👇👇

✅ @AI_DeepMind

الهه حسین نژاد کجاست؟

روز چهارم خرداد ماه 1404، الهه حسین‌ نژاد مانند هر روز، پس از پایان ساعت کاری‌ اش از محل کار خود در میدان آزادی تهران راهی خانه شد. مقصد او اسلامشهر بود. خانواده می‌گویند در آخرین تماس تلفنی، الهه اعلام کرده بود که در مسیر بازگشت است. اما آن تماس، به طرز مشکوکی آخرین نشانه از او بود. تلفن همراه خاموش شد و اثری از او باقی نماند.

اکنون بیش از 7 روز از این اتفاق می‌گذرد، اما هیچ سرنخ مشخصی در دست نیست. خانواده او در دلشوره و اضطراب دست و پا می زنند.
برای پیدا شدن الهه بازنشر کنید