ریشه و امتداد › جزء

هوش مصنوعی — موتور فرآوری، نه صاحب حقیقت

هوش مصنوعی می‌تواند در تقریباً تمام مراحل نقش داشته باشد: استخراج متن از صوت و تصویر، تشخیص گزاره‌های کلیدی، موضوع‌بندی و خوشه‌بندی، کشف روابط میان بیانات، پیشنهاد کارخواست، پیشنهاد ذی‌ربطان و شاخص، خلاصه‌سازی گزارش‌ها، کشف تناقض‌ها و ساخت گراف دانش.

چرخه۱۲۳۴۵۶۷
۱AI پیشنهاد می‌دهد۲کارشناس بررسی می‌کند۳سامانه ثبت می‌کند۴دستگاه و جامعه داده تولید می‌کنند۵AI تناقض‌ها را کشف می‌کند۶کارشناس ارزیابی می‌کند۷وضعیت نهایی ثبت

چرخه کنترل‌شده نقش AI — پیشنهاد ماشینی، قضاوت انسانی، بازگشت به چرخه.

نشانه «ورود» = رفتن به لایه عمیق‌تر·گره‌های بدون نشانه = محتوای همین لایه·مکث روی هر گره = نمایش حاشیه‌ها
روی ایستگاه‌های چرخه یا فهرست شماره‌دار مکث کنید.

اصل غیرقابل‌مذاکره

مرز قرمز

هوش مصنوعی نباید به‌تنهایی تعیین‌کننده «معنای قطعی بیان»، «مسئولیت حقوقی دستگاه» یا «میزان نهایی تحقق» باشد.

مجاز — آنچه AI می‌تواند

  • بازیابی منابع و کنترل ارجاعات؛ تشخیص تفاوت نقل مستقیم، تفسیر و پیشنهاد
  • خلاصه‌سازی پژوهش‌ها با حفظ پیوند به منابع؛ پیشنهاد گزینه‌های جایگزین برای بررسی انسانی
  • شناسایی تناقض میان هدف، اقدام، شاخص و شواهد؛ آشکارسازی فرض‌های بیان‌نشده و عدم‌قطعیت‌ها
  • بررسی کامل‌بودن شناسنامه استدلالی؛ کنترل تغییر معیارها نسبت به نسخه مصوب؛ شناسایی نشانه‌های احتمالی سوگیری

محدود — قواعد الزامی

  • استنادهای مهم باید قابل‌بازیابی و راستی‌آزمایی باشند
  • پیشنهادهای مدل باید امکان رد و بازبینی داشته باشند
  • خروجی مدل نباید خودکار به تصویب رسمی تبدیل شود
  • اختلاف میان مدل و خبره باید قابل‌ثبت باشد
  • مسئولیت تصمیم نهایی باید به شخص یا مرجع صاحب‌اختیار منتسب بماند
  • استفاده از داده‌های محرمانه تابع قواعد دسترسی و حفاظت از داده‌هاست
اصل

هوش مصنوعی باید کیفیت بررسی را افزایش دهد، نه اینکه اختیار تصمیم و مسئولیت پاسخ‌گویی را از انسان و مرجع رسمی سلب کند.

پیوندهای عرضی — مسیرهای مرتبط در درخت