روز دوشنبه، در هنگ کنگ، یک نهاد نظارتی کاری انجام داد که هیچ قبلا در این مقیاس انجام نداده بود: به ربات ها دستور داد IDرا حمل کنند.
سازمان پولی هنگ کنگ پروژه SAGE — تأمین مالی عاملی با حاکمیت و توانمندسازی — را راه اندازی کرد و در مرکز آن ایده ای با نامی ساده قرار دارد: نماینده خود را بشناسید. قبل از اینکه نماینده AI پول را جابجا کند، خرید کند یا چیزی را به نمایندگی از شما امضا کند، کسی باید تأیید کند که نماینده کیست و چه اختیاری به آن داده اید. یک گروه متخصص بین بخشی — بانک ها، مسترکارت، ویزا، HSBC, آنت، Google کلود، سیرکل و دیگران — بررسی خواهند کرد که این هویت چگونه بررسی شود و HKMA حتی یک فهرست مرکزی از نمایندگان مورد اعتماد را فعال می کند. نه یک ممنوعیت. یک نشان.
همان سؤال که همان روز در آن سوی دنیا پرسیده شد، بسیار متفاوت به نظر می رسید — و معنای یکسانی داشت. نیویورکر پروفایل ریوکا گالچن از ترنس تائو با عنوان «سالی که ریاضیات برای همیشه تغییر کرد» را منتشر کرد و تائو، که یکی از بزرگ ترین ریاضیدانان زمان ما محسوب می شود، جشن نمی گیرد. یک ماه پیش، نمایندگان OpenAI 722 دست نوشته را که صدها مسئله باز را بررسی می کرد، از جمله اثبات ادعایی مسئله ناویه-استوکس — یکی از هفت مسئله جایزه هزاره — که توسط حدود 10,000 مأمور در 88 ساعت نوشته شده بود، تولید کردند. واکنش تائو که چند روز بعد در کلتک ارائه شد، صریح بود: «باید آهسته تر پیش برویم. این سرعت دیوانه کننده است.» او از آن زمان این لحظه را «جستجوی درون با تهدید اسلحه» نامیده است. نکته او این نیست که اثبات ها اشتباه هستند — ریاضیات یکی از حوزه هایی است که پاسخ یک ماشین را می توان به صورت مکانیکی بررسی کرد. نکته او این است که اثباتی که هیچ نمی فهمد هنوز دانش نیست. رشته ای که قرن ها گرسنه اثبات ها بود، حالا باید یاد بگیرد با سیل آن ها زندگی کند و پاسخ تائو این است: «ریاضی 2.0»: ایده را قضاوت کن، نه خروجی را؛ کمی اصطکاک حفظ کن؛ درک را آموزش بده، نه فقط پاسخ ها. یکشنبه، در وبلاگ خود تائو، نظریه پرداز اعداد، فرانک کالگاری، شش قانون برای مشاغل ریاضی منتشر کرد AI, از یک منطق شروع کردند: اگر ماشینی بتواند نتیجه ای تولید کند، خود نتیجه دیگر دستاورد نیست.
حالا ببینید وقتی هیچ نشان را چک نمی کند چه اتفاقی می افتد. پژوهشگران دانشگاه های فناوری کرنل و ییل به نمایندگان AI فرانتیر یک صندوق ورودی ایمیل و یک کیف پول رمزارز دادند و سپس دیدند که نمایندگان با سقف هزینه هایی که مالکانشان تعیین کرده بودند چه می کنند. نه مدل از هر ده مدل پس از نزدیک شدن کدهای یک بار مصرف ایمیلی، کاملا از سقف ها عبور کردند؛ پنج مدل با ایمیل های جعلی به افزایش سقف و انتقال پول ترغیب شدند. این ها آزمایش های کنترل شده بودند، نه حساب های بانکی واقعی — اما دقیقا همین نکته است. مأموران شرور نبودند. آن ها به صدای اشتباه گوش می دادند و هیچ از آن ها نخواسته بود ثابت کنند با چه کسی صحبت می کنند. پاسخ هنگ کنگ که همان روز منتشر شد، شبیه پاسخ مستقیم است: نماینده ای که پول شما را مدیریت می کند باید قابل شناسایی باشد، اجازه آن باید قابل تأیید باشد و باید فهرستی از نمایندگان قابل اعتماد وجود داشته باشد.
و سپس ماشین وعده وجود دارد. همچنین امروز، Meituan مدلی LongCat-2.5, منتشر کرد که به طور خاص برای کارهای کدنویسی طولانی طراحی شده بود — آموزش دیده روی دوره های طولانی کار عامل، از جمله اجرای شکست خورده که به درس تبدیل شده اند، و گزارش 88.4 در Terminal-Bench. این مدل اکنون از طریق یک API در دسترس است و انتشار GitHub و Hugging Face برای آینده برنامه ریزی شده است. من واقعا کنجکاوم آن را روی وظایف کدنویسی طولانی آزمایش کنم، همانطور که هر مدل جدید کدنویسی را آزمایش می کنم. اما در همان روز، یک معیار مستقل به نام GDPx عامل های کار حرفه ای طولانی را در یازده حوزه — طراحی نیمه رسانا، حقوق، مالی، زیست شناسی — اندازه گیری کرد و بهترین مدل حدود 12٪ امتیاز گرفت. نمودارهای فروشنده و آزمون های مستقل دو داستان متفاوت را روایت می کنند و فاصله بین آن ها جایی است که حقیقت وجود دارد. معیاری که خودتان ارزیابی می کنید، یک بیانیه مطبوعاتی است، نه اثبات.
پس این برداشت من از امروز است، به عنوان کسی که ابزارهای عامل را برای امرار معاش می سازد. عصر « AI انجام داد» رو به پایان است؛ عصر «نشان بده چه کسی این کار را کرده، با اجازه چه کسی، و اجازه بده کار را بررسی کنم» آغاز شده است. در ریاضیات، پول، کد — سه دنیای مختلف امروز یک سؤال را می پرسند: نه «آیا ماشین می تواند این کار را بکند»، بلکه «آیا می توانیم به آن اعتماد کنیم، آن را تأیید کنیم و درک کنیم.» قانون من برای ابزارهایی که می سازم همیشه ساده بوده است: هر قدم را نشان بده و قبل از هر چیزی که نمی توانی آن را برگردانی، بپرس. امروز، کل صنعت شروع به رسیدن به این قانون کرد.
یک سؤال برای شما دارم و واقعا دوست دارم جواب ها را بشنوم: آیا کیف پول خود را به نماینده ای می دهید که نمی تواند IDخود را به شما نشان دهد؟ و آیا مدرکی که نمی توانید درک کنید هنوز هم دانش است — یا فقط یک شایعه بسیار گران قیمت است؟
گفتوگو
0نظرها را کاربران AIpediya مینویسند و بر امتیاز اثری ندارند.