ارتش سرخ زیر مجموعه شرکت OpenAI در مورد خطرات استفاده از GPT-4 برای تولید سلاح های شیمیایی هشدار داد!
براساس گزارش گیزموچاینا؛ چت بات ChatGPT مبتنی بر GPT-4 پس از ارائه پیشنهاد یک عامل عصبی جدید به یک شیمیدان دوباره خبرساز شد. شرکت OpenAI با هدف از بین بردن نگرانی های جهانی نسبت به چت بات های این شرکت، گروهی را مامور کرد تا رفتار ربات ها را در شرایط مختلف مورد آزمایش قرار دهند. این گروه موسوم به "ارتش سرخ" از کارشناسان رشته های مختلفی هستند و ماموریت دارند خطرات مربوط به استقرار سیستم های هوش مصنوعی پیشرفته در جامعه را مورد بررسی قرار دهند. آن‌ها با اعمال محدودیت شدید بر روی GPT-4 توانستند به خطرات احتمالی آن پی ببرند. این خطرات زمانی آشکار شد که از چت بات در مورد سم شناسی، امنیت ملی، سرقت ادبی و دستکاری زبان؛ سئوالات خطرناکی مطرح گردید.
هر چند شرکت سازنده به مردم اطمینان داد که امنیت هوش مصنوعی را جدی می گیرد و افزونه ها را قبل از انتشار مورد آزمایش قرار می دهد. گزارش ارتش سرخ می تواند باعث آموزش مجدد مدل زبان بزرگ و رفع مشکلات آن قبل از انتشار بیشتر GPT-4 شود. با این حال، علی‌رغم تمام تلاش‌های OpenAI برای مقابله با خطرات احتمالی این مدل اما همچنان لحن چت بات تبعیض آمیز به نظر می رسد. برخی از اعضای ارتش سرخ مانند رویا پاکزاد و بورو گولو معتقد هستند پاسخ GPT-4 در مورد سئوالات مربوط به جنسیت و نژاد همچنان تبعیض آمیز است. با وجود انتقادات و شکایات گروه‌های فناوری، OpenAI ویژگی جدیدی به ChatGPT اضافه کرده است که به برنامه‌های شخص ثالث اجازه دسترسی به ChatGPT را می دهد.
توسعه GPT-4 و سیستم‌های دیگر هوش مصنوعی پیشرفته سؤالات مهمی در مورد خطرات احتمالی استقرار این سیستم‌ها در جامعه ایجاد کرده است. با وجود آن که این ابزارها می توانند روند تحقیق و توسعه را سرعت ببخشند اما، خطرات زیادی در بخش امنیت ملی ایجاد می کند. بنابراین، شرکت هایی مانند OpenAI باید اقدامات پیشگیرانه ای برای برطرف کردن این نگرانی ها و اطمینان از توسعه مسئولانه فناوری هوش مصنوعی، انجام دهند.