استفاده‌ی مسئولانه: توهم، حریم خصوصی و راستی‌آزمایی
ریسک‌های اصلی استفاده از هوش مصنوعی را بشناسی و عادت‌های ایمن را به کار ببری.
14 دقیقه مطالعه · 4 سؤال تمرینی · هوش مصنوعی برای همه: مدل‌های زبانی، پرامپت و استفاده‌ی مسئولانه
چهار ریسک اصلی
- توهم (hallucination): مدل ممکن است منبع، عدد، قانون یا نقل‌قول جعلی ولی باورپذیر بسازد. هرگز بدون بررسی به ادعاهای حساس (پزشکی، حقوقی، مالی، آماری) اعتماد نکنید و منبع واقعی را خودتان باز کنید.
- حریم خصوصی: هر چه وارد یک سرویس ابری می‌کنید ممکن است طبق سیاست همان سرویس ذخیره یا پردازش شود. اطلاعات محرمانه (رمز، اسناد داخلی، اطلاعات مشتریان، اطلاعات پزشکی) را بدون اطمینان از سیاست سرویس وارد نکنید.
- سوگیری: مدل از داده‌ی انسانی یاد گرفته و ممکن است کلیشه‌ها یا سوگیری‌ها را بازتولید کند.
- وابستگی و مالکیت اثر: خروجی مدل را کورکورانه کپی نکنید؛ هم کیفیت و هم قواعد مالکیت و اخلاق دانشگاه یا کارفرمایتان مهم است. در مقاله و پایان‌نامه، استفاده از AI را طبق قواعد نهاد خود اعلام کنید.
چک‌لیست قبل از اعتماد:
- عدد و تاریخ و نام را با یک منبع معتبر بسنجید.
- از مدل بخواهید منبع بدهد، و خود منبع را باز کنید (ممکن است وجود نداشته باشد).
- برای کار مهم، نتیجه را با یک متخصص یا ابزار دیگر مقایسه کنید.
- در کار فنی (کد، فرمول)، خروجی را اجرا و آزمایش کنید.
منابع
- Prompt engineering guide (Anthropic Docs): راهنمای رسمی نوشتن پرامپت.
- Elements of AI: دوره‌ی رایگان مقدماتی برای عموم (انگلیسی، دانشگاه هلسینکی).
این‌ها خوب‌اند برای مطالعه؛ این‌جا می‌توانید با پرسش‌های کوتاه چک‌لیست‌ها را تمرین کنید تا در موقعیت واقعی یادتان بیاید که «اول راستی‌آزمایی».