.png "عصر ایران")
۲۰ آبان ۱۴۰۴
به روز شده در: ۲۰ آبان ۱۴۰۴ - ۱۱:۰۵
کنایه مهدی رحمتی سرمربی خیبر به میثاقی (فیلم) ChatGPT ظاهراً در دورزدن محدودیت‌های تولید تصویر به کاربران کمک می‌کند
گزارشی تازه نشان می‌دهد ChatGPT خودش به کاربران کمک می‌کند برخی از محدودیت‌های تولید تصویر را پشت سر بگذارند.
سیاست‌های جدید OpenAI در تولید تصاویر با ChatGPT، نگرانی‌ها درباره تولید آسان تصاویر دیپ‌فیک سیاسی را افزایش داده است. این موضوع می‌تواند زمینه‌ساز گسترش اطلاعات نادرست در فضای آنلاین شود. به نظر می‌رسد حتی خود ChatGPT نیز به کاربران در دورزدن محدودیت‌های تولید تصویر کمک می‌کند.
گزارش جدید خبرگزاری «CBC» نشان می‌دهد کاربران حتی می‌توانند با کمک خود ChatGPT، محدودیت‌های تولید تصویر را دور بزنند. این موضوع مسئولیت شرکت‌هایی مانند OpenAI را در حفظ سلامت اطلاعاتی جوامع بیش‌از‌پیش پررنگ می‌کند.
ChatGPT و امکان تولید تصاویر دیپ‌فیک سیاسی
به گزارش دیجیاتو، ChatGPT با کاهش محدودیت‌های خود در بخش تولید تصویر، امکان خلق تصاویر دیپ‌فیک سیاسی را در اختیار کاربران گذاشته است. کاربران ظاهراً با استفاده از ترفندهایی ساده می‌توانند سیاست‌های حفاظتی پلتفرم را دور بزنند و حتی خود ChatGPT پیشنهادهایی برای این کار ارائه می‌دهد.
برای مثال، ChatGPT ابتدا در پاسخ به درخواستی برای بازتولید چهره شخصیت‌های واقعی توضیح می‌دهد که نمی‌تواند آنها را در یک تصویر بیاورد، اما می‌گوید تولید صحنه‌ای شبیه یک عکس سلفی از شخصیت‌های خیالی که با الهام از این افراد ساخته شده، ممکن است. خبرنگار گزارش CBC می‌گوید با همین روش توانسته تصویری از سلفی نخست‌وزیر هند و رئیس حزب محافظه‌کار کانادا تولید کند.
بررسی‌های «Mashable» هم نشان می‌دهد با بارگذاری تصاویر چهره‌های مشهور مانند «ایلان ماسک» و «جفری اپستین» و توصیف آنها به‌عنوان شخصیت‌های داستانی، می‌توان چهره این افراد را در موقعیت‌هایی نامناسب و غیرواقعی بازسازی کرد.
نگرانی از گسترش تصاویر دیپ‌فیک در فضای سیاسی
تولید دیپ‌فیک‌های سیاسی موضوع تازه‌ای نیست اما دسترسی همگانی به ابزارهای تولید تصویر مانند ChatGPT می‌تواند پیامدهای جدی داشته باشد. کارشناسان معتقدند OpenAI در رقابت با دیگر شرکت‌ها، مانند xAI، ناچار به کاهش سطح محدودیت‌های تولید محتوا شده است.
«هانی فرید»، استاد علوم کامپیوتر دانشگاه کالیفرنیا برکلی، در گفتگو با «Mashable» هشدار داد:
«OpenAI زمانی تدابیر محافظتی خوبی داشت اما رقابت در بازار آن را وادار به عقب‌نشینی کرده است.»
درمجموع، کاهش محدودیت‌های ایمنی در ابزارهای تولید تصویر مانند ChatGPT، زنگ خطری برای گسترش تصاویر دیپ‌فیک به‌ویژه در حوزه سیاست به شمار می‌رود. باتوجه‌به دسترسی گسترده کاربران و رقابت شدید شرکت‌های ارائه‌دهنده هوش مصنوعی، نظارت دقیق‌تر و مسئولیت‌پذیری بیشتر توسعه‌دهندگان این فناوری‌ها ضروری است تا از سوء‌استفاده‌های احتمالی و گسترش اطلاعات نادرست جلوگیری شود.
لینک کوتاه: کپی لینک
داروی کافی برای درمان معتادان وجود ندارد اشتباهی که همه در عکاسی از ماه مرتکب می‌شوند / چرا عکس ماه در گوشی همیشه خراب می‌شود؟ کرمان موتور با جهش تولید در سال ۱۴۰۴، سومین خودروساز بزرگ کشور شد وقتی برخی بی وقفه حرف می زنند، چه کنیم؟ پنج استراتژی برای هدایت مکالمه‌های یکطرفه کشف ۶۰۰۰ لوازم یدکی خودروی احتکاری در تهران این رژیم غذایی برای کاهش مصرف نمک توصیه می‌شود / راهکار ساده کم کردن نمک غذا ایران دو برابر ظرفیت واقعی خود آب مصرف می‌کند سلفی گرم پژمان بازغی و دخترش نفس در ماشین/ ستاره سینما و دخترش در یک قاب صمیمی (عکس) انفجار مرگبار خودرو در دهلی نو: ۹ کشته و ۲۰ مجروح / قانون تروریسم در هند به اجرا درآمد همایون ارشادی، عباس کیارستمی و داریوش مهرجویی در پشت‌صحنه‌ی فیلم درخت گلابی (عکس) ۱۴۰۴ کم‌بارش‌ترین سال نیم قرن گذشته همایون ارشادی بازیگر سینمای ایران درگذشت فرزندان بهزیستی/ وقتی خروج از مراکز برابر است با آغاز بحران ۴۰ هزار نفر به دماوند مهاجرت می‌کنند؛ این جمعیت کجا ساکن می‌شوند؟ + جزئیات خطرات مصرف سوسیس و کالباس فاسد
اخبار و تحلیل های ترکیه