چین برای مقابله با شرکت های هوش مصنوعی برای محافظت از کودکان اقدام خواهد کرد

چین مجموعه‌ای از مقررات سختگیرانه جدید برای هوش مصنوعی (AI) پیشنهاد داده است که هدف اصلی آن حفاظت از کودکان و جلوگیری از خطرات ناشی از استفاده از چت‌بات‌هاست. این قوانین قرار است مانع از ارائه مشاوره‌هایی شوند که ممکن است به خودآزاری، خشونت یا رفتارهای پرخطر منجر شود.

بر اساس پیش‌نویس منتشرشده توسط اداره فضای سایبری چین (CAC)، توسعه‌دهندگان موظف خواهند بود اطمینان حاصل کنند که مدل‌های هوش مصنوعی محتوایی تولید نمی‌کنند که قمار را ترویج دهد یا امنیت ملی را به خطر اندازد. همچنین این مقررات تأکید دارند که خدمات هوش مصنوعی نباید به افتخار و منافع ملی آسیب برسانند یا وحدت اجتماعی را تضعیف کنند.

این اقدام در شرایطی صورت می‌گیرد که تعداد چت‌بات‌ها در چین و سراسر جهان به سرعت در حال افزایش است و نگرانی‌های ایمنی در سال جاری توجه گسترده‌ای را به خود جلب کرده است. پس از نهایی شدن، این قوانین شامل تمامی محصولات و خدمات هوش مصنوعی در چین خواهد شد و گامی مهم در مسیر تنظیم این فناوری نوظهور به شمار می‌رود.

حمایت ویژه از کودکان

پیش‌نویس CAC شامل تدابیر ویژه‌ای برای حمایت از کودکان است. شرکت‌های هوش مصنوعی باید تنظیمات شخصی‌سازی‌شده ارائه دهند، محدودیت زمانی برای استفاده اعمال کنند و پیش از ارائه خدمات همراهی عاطفی، رضایت والدین یا سرپرستان را دریافت کنند.

همچنین اپراتورهای چت‌بات موظف خواهند بود هر مکالمه مرتبط با خودکشی یا خودآزاری را فوراً به یک انسان منتقل کنند و بلافاصله والدین یا تماس اضطراری کاربر را مطلع سازند.

تشویق به استفاده ایمن

در بیانیه CAC آمده است که استفاده از هوش مصنوعی در حوزه‌هایی مانند ترویج فرهنگ محلی یا ارائه ابزارهای همراهی برای سالمندان تشویق می‌شود، به شرطی که فناوری ایمن و قابل اعتماد باشد. این نهاد همچنین از مردم خواسته است بازخورد خود را درباره این مقررات ارائه دهند.

رشد سریع صنعت هوش مصنوعی در چین

همزمان با این تحولات، شرکت‌های هوش مصنوعی چینی رشد چشمگیری را تجربه کرده‌اند. شرکت DeepSeek امسال با صدرنشینی در جدول دانلود اپلیکیشن‌ها خبرساز شد. همچنین دو استارتاپ Z.ai و Minimax که در مجموع ده‌ها میلیون کاربر دارند، برنامه‌هایی برای عرضه در بازار سهام اعلام کرده‌اند.

این فناوری به سرعت توانسته میلیون‌ها مشترک جذب کند و برخی کاربران از آن برای همراهی یا حتی درمان استفاده می‌کنند؛ موضوعی که اهمیت تنظیم دقیق و مسئولانه این صنعت را بیش از پیش برجسته می‌سازد.