محققان دیده بان حقوق بشر این کشف را پس از تحقیقات زنجیره تامین مرتبط با انتشار تصاویر عمیق جعلی از ۵۰ دختر از دبیرستانی در ملبورن در ماه گذشته انجام دادند.
گزارش جدید دیده بان حقوق بشر فاش کرده است که از عکس های شخصی کودکان استرالیایی برای آموزش ابزارهای هوش مصنوعی بدون رضایت یا اطلاع کودکان یا خانواده آنها استفاده می شود.
تحلیل دیده‌بان حقوق بشر نشان می‌دهد که مجموعه داده‌ای که برای آموزش ابزارهای قدرتمند A-I استفاده می‌شود، که با کنکاش داده‌های بیشتر اینترنت ساخته شده است، این داده ها حاوی پیوندهایی به عکس‌های قابل شناسایی کودکان استرالیایی است.
هی جونگ هان محقق حقوق کودکان و فناوری دیده بان حقوق بشر است. او به SBS گفت:
بسیاری از عکس‌هایی که در مجموعه داده‌ها پیدا کردند مربوط به لحظات خانوادگی صمیمی بودهی جونگ هان
در اوایل سال جاری، حدود ۵۰ دختر از دبیرستانی در ملبورن قربانی غیر توافقی و جعلی محصولات جنسی صریح و آشکار با استفاده از ابزارهای تصویری A-I شدند.
مارک دریفوس، دادستان کل، اخیراً اصلاحاتی را در پارلمان ارائه کرده است که ایجاد یا به اشتراک گذاری بدون رضایت هرگونه محصول غیرواقعی صریح جنسی بزرگسالان را ممنوع می کند.
با این حال، این اصلاحات خاطرنشان کرد که چنین تصاویری از کودکان همچنان به عنوان موارد کودک آزاری تحت قانون جنایی تلقی می شود.
هی جونگ هان می‌گوید که این رویکرد مشکل عمیق‌تری را که در دست است از دست می‌دهد، یعنی اینکه داده‌های شخصی کودکان در برابر سوء استفاده محافظت نشده باقی می‌مانند.
دیده‌بان حقوق بشر می‌گوید که در برخی از عکس‌ها، نام و سن کامل کودکان و برخی از داده‌ها حتی نام مدرسه یا پیش‌دبستانی که آنها در آن تحصیل کرده‌اند نیز وجود دارد. یافته‌ها نشان می‌دهد که بیشتر این عکس‌ها در هیچ جای دیگری در اینترنت موجود نیستند، به این معنی که احتمالاً از سایت‌های خصوصی مانند وبلاگ‌های شخصی، آپلود عکاسان مدرسه و سایر سایت‌های اشتراک‌گذاری عکس خصوصی حذف شده‌اند.
سایمون لوسی، مدیر موسسه استرالیایی یادگیری ماشین در دانشگاه آدلاید است، او می گوید که ابزارهای کنکاش وب اکنون حجم عظیمی از داده ها را جمع آوری می کنند و نظارت بر آن را دشوارتر می کند.
یکی دیگر از یافته های نگران کننده در گزارش دیده بان حقوق بشر، استفاده از تصاویر کودکان ملل اول در استرالیا بود. هی جونگ هان می‌گوید بسیاری از عکس‌ها از قسمت‌هایی از اینترنت که معمولاً برای همه در دسترس نیست، کنکاش شده‌اند و استفاده از عکس‌های کودکان ملل اول در مجموعه داده‌ها، آسیب‌های خاصی را به جوامع ملل اول وارد می‌کند.
دیده‌بان حقوق بشر می‌گوید هنگامی که داده‌ها پاک می‌شوند، حتی اگر جمع‌آورنده اصلی آن داده‌ها آن را از مجموعه داده‌های خود حذف کند، مدل A-I قبلاً با آن آموزش داده شده است و اطلاعات را حذف نخواهد کرد. نگرانی بیشتر، استفاده بالقوه از ابزارهای A-I در ایجاد و دستکاری تصاویر جنسی صریح از کودکان است.
سایمون لوسی می‌گوید حتی زمانی که شرکت‌ها می‌گویند از داده‌ها محافظت می‌کنند، مقیاس سریع گسترش در فضای A-I به این معنی است که اغلب اطلاعات درز می کند و مورد سوء استفاده قرار می گیرد.
سایمون لوسی می‌گوید که این موضوع می‌تواند با این واقعیت بدتر شود که قوانین مربوط به فن‌آوری جدید اغلب با تأخیر مواجه می‌شوند، با اقدامات کاهش آسیب و پیشگیری تنها زمانی که آسیب‌های احتمالی متوجه شوند، می‌توانند به طور کامل مشکلات را برطرف کنند.
او می گوید که اگر استرالیا بخواهد به طور موثر با ظهور A-I مقابله کند، نمی تواند به سادگی عقب بماند و از رهبری دیگران پیروی کند.
دولت به دنبال ایجاد تغییراتی در قانون حفظ حریم خصوصی است که بهتر از کودکان محافظت می کند. بنابراین، در حالی که یافته‌های گزارش‌ها نگرانی‌های زیادی را در میان والدین در مورد حریم خصوصی فرزندانشان در فضای آنلاین ایجاد می‌کند، هی جونگ هان می‌گوید که وعده قانون‌گذاری جدید در ماه‌های آینده امیدوار است حمایت‌های بهتری را تضمین کند.
