OpenAI به‌عنوان توسعه‌دهنده‌ی DALL-E، تغییراتی روی موتور تولید تصویر این هوش مصنوعی اعمال کرده است که می‌تواند چهره‌ی انسان‌ها به‌طور امن و بدون ترس از سوءاستفاده‌‌های احتمالی، ویرایش کند.
OpenAI اکنون به کاربران سیستم تولید تصویر مبتی‌بر هوش مصنوعی خود موسوم به DALL-E اجازه می‌دهد تا چهره‌های انسان‌ها را در عکس‌ها ویرایش کنند. این قابلیت قبلاً به‌دلیل نگرانی‌های ناشی از احتمال سوءاستفاده، غیرمجاز بود اما طی نامه‌ای که به میلیون‌ها کاربر این هوش مصنوعی ارسال شد، پس از اعمال بهبود در فیلترها برای حذف تصاویر حاوی محتوای جنسی و خشونت‌آمیز، اکنون دردسترس عموم قرار گرفته است.
قابلیت جدید هوش مصنوعی DALL-E به کاربران اجازه می‌دهد تصاویر را با روش‌های مختلفی ویرایش کنند. درواقع اکنون می‌توان عکس‌های شخصی را آپلود و تغییراتی روی آن اعمال کرد. به‌عنوان نمونه، کاربران می‌توانند با استفاده از ویژگی‌های خاص این فناوری، مواردی مثل لباس یا مدل مو را تغییر دهند. این قابلیت بی‌شک برای بسیاری از فعالان حوزه‌هایی مثل عکاسی و فیلم‌سازی، مفید خواهد بود.
OpenAI در نامه‌ی خود به کاربران گفت:
با بهبود سیستم ایمنی ما، DALL-E اکنون از قابلیت ویرایش تصویر پشتیبانی می‌کند و احتمال آسیب‌های ناشی از دیپ‌فیک‌ها را نیز به‌حداقل می‌رساند.
به گزارش ورج، تصمیم به اضافه کردن قابلیت ویرایش تصویر به DALL-E پس از انجام مذاکرات مداوم سازندگان این هوش مصنوعی با کاربران آن اتخاذ شده است؛ فرآیندی که طی آن، خطرات احتمالی فناوری مذکور مورد بررسی قرار می‌گیرد. OpenAI به‌عنوان شرکتی که بودجه‌ی درخورتوجهی دراختیار دارد و همچنین با درنظر گرفتن روابط بسیار خوبی که با غول‌های فناوری مثل مایکروسافت برقرار کرده، رویکردی نسبتاً محتاطانه را در پیش گرفته است.
البته رقبایی مثل Stable Diffusion با اعمال محدودیت‌های کمتر برای کاربران خود، اکنون در این حوزه از OpenAI پیشی گرفته‌اند. این شرایط به افزایش سرعت توسعه‌ی فناوری‌های مرتبط با هوش مصنوعی کمک می‌کند، اما از طرف دیگر، امکان استفاده از آن‌ها در برنامه‌های مخرب نیز افزایش می‌یابد. به‌عنوان مثال Stable Diffusion درحال‌حاضر برای ساخت دیپ‌فیک‌های جنسی از افراد مشهور مورد سوءاستفاده قرار می‌گیرد.
OpenAI با اعمال محدودیت‌هایی، امکان سوءاستفاده از DALL-E را کاهش داده است. در بخشی از توافق‌نامه‌ی استفاده از این فناوری به کاربران تأکید می‌شود که از آپلود تصاویر افراد، بدون کسب رضایت از آن‌ها خودداری کنند. به‌هرحال، هیچ‌یک از سیستم‌های فیلتر محتوا کامل نیستند و امکان دارد همچنان برخی افراد از این فناوری‌ها برای اهداف مضر بهره ببرند.
