কভার ইমেজে , 1984 সালে Apple Inc. দ্বারা প্রবর্তিত একটি ব্যক্তিগত কম্পিউটার যা কম্পিউটার শিল্পকে বদলে দিয়েছে। এটি আইকনিক 32-বিট প্রসেসর, 128 KB RAM এবং একটি শালীন কালো এবং সাদা বিল্ট-ইন ডিসপ্লে অন্তর্ভুক্ত করেছে।

অধিকন্তু, এটি সরাসরি থেকে আশ্চর্যজনক প্রযুক্তি উদ্ভাবনগুলিকে একীভূত করেছে: মাউস এবং তার ক্লাসের প্রথম গ্রাফিক ইউজার ইন্টারফেস (বর্তমান GUI-এর দাদী)।

70,000 টিরও বেশি ইউনিট বিক্রি হওয়ার সাথে, ম্যাকিনটোশ অ্যাপলের সাফল্যে একটি গুরুত্বপূর্ণ ভূমিকা পালন করেছে। একটি অদ্ভুত সত্য, লঞ্চ ইভেন্টটি ম্যাকের চেয়েও বেশি সফল ছিল। US$1.5 মিলিয়নের বাজেটের সাথে, বিখ্যাত রিডলি স্কট অরওয়েলের আইকনিক উপন্যাস নাইনটিন এইটি-ফোরের স্পষ্ট ইঙ্গিত দিয়ে একটি পরিচালনা করেছিলেন যা একটি মাস্টারপিস এবং ওয়াটারশেড ইভেন্টে পরিণত হয়েছিল।

প্রায় চল্লিশ বছর পরে, একজন বিখ্যাত চলচ্চিত্র পরিচালক বা টেলিভিশন বিজ্ঞাপন ছাড়াই, শুধুমাত্র একটি সাধারণ ওয়েব অ্যাপ্লিকেশন, ওপেনএআই একটি এখনও পরীক্ষামূলক ভাষা মডেল গ্রহণ করে এবং এটি বিশ্বের জন্য উন্মুক্ত করে। বাকি গল্পটি শিরোনামে রয়েছে: ChatGPT 23 জানুয়ারীতে , লঞ্চের মাত্র দুই মাস পরে, এটিকে ইতিহাসে দ্রুততম বর্ধনশীল গ্রাহক অ্যাপ্লিকেশনে পরিণত করেছে (TikTok এবং Instagram এর চেয়ে দ্রুত)।

এখন বিশ্বের মনোযোগ AI শিল্পের দিকে, এবং প্রতি সপ্তাহে অগ্রগতির সাথে, এই বছরটি ক্ষেত্রের জন্য একটি গুরুত্বপূর্ণ মুহূর্ত হওয়ার প্রতিশ্রুতি দেয়। সবচেয়ে ভালো দিক হল আপনি এখনও সময়মত এআই ফিল্ডে যোগ দিতে এবং মানব ইতিহাসের এই বিপ্লবী মুহূর্তের অংশ হতে পারেন।

প্রম্পট ইঞ্জিনিয়ারিং 101 হল একটি পোস্ট সিরিজ যা প্রম্পট ইঞ্জিনিয়ারিংয়ের নীতি এবং কৌশলগুলি, স্পষ্ট এবং কার্যকর পাঠ্য তৈরি করার শিল্প, ভাষার মডেলগুলিকে প্রম্পট করার জন্য এবং আপনি যা খুঁজছেন ঠিক তা পাওয়ার জন্য ডিজাইন করা হয়েছে এবং লেখা হয়েছে৷ এই সিরিজটি ChatGPT এবং অন্যান্য টেক্সট-টু-টেক্সট মডেল সহ বিস্তৃত জেনারেটিভ মডেলের জন্য প্রম্পট ইঞ্জিনিয়ারিং কভার করে। এছাড়াও স্ট্যাবল ডিফিউশন বা মিডজার্নির মতো টেক্সট-টু-ইমেজ মডেলগুলি অন্বেষণ করে এবং এলএলএম-এর অতিরিক্ত দিকগুলি যেমন হ্যালুসিনেশন, গোপনীয়তা এবং সুরক্ষা সমস্যা এবং আরও অনেক কিছুর সন্ধান করে...

এটি সিরিজের পোস্ট #2 , যেখানে আমরা প্রম্পট ক্রাফটিংয়ে দক্ষতা অর্জনের জন্য চেইন-অফ-থট এবং স্ব-সংগতির মতো উন্নত কৌশলগুলি কভার করব। আমি আপনি এটা ভোগ করেন!

সুচিপত্র

1. প্রম্পট ইঞ্জিনিয়ারিং এর রিক্যাপ
2. চেইন-অফ-থট প্রম্পটিং
3. চেইনিং প্রম্পট
4. স্ব-সংগতি পদ্ধতি
5. ভূমিকা প্রম্পটিং
6. টোকেনাইজেশনে হারিয়ে গেছে
7. প্রম্পট ক্রাফটিং মাস্টার করার জন্য পাঁচটি টিপস এবং টুল

প্রম্পট ইঞ্জিনিয়ারিং এর রিক্যাপ

প্রম্পট ইঞ্জিনিয়ারিং-এর এই সিরিজের প্রথম অংশে , আমরা এই শিল্পের অন্তর্দৃষ্টিগুলিকে আবিষ্কার করেছি এবং একটি আনুষ্ঠানিক সংজ্ঞা অর্জন করেছি। মূলত প্রম্পট ইঞ্জিনিয়ারিং হল একটি বৃহৎ ভাষার মডেলের জন্য স্পষ্ট এবং নির্দিষ্ট প্রম্পট ডিজাইন এবং অপ্টিমাইজ করার একটি পুনরাবৃত্তিমূলক প্রক্রিয়া যাতে এটি প্রাসঙ্গিক, নির্ভুল এবং সুসঙ্গত প্রতিক্রিয়া তৈরি করে।

এর পরে, আমরা কার্যকর প্রম্পট তৈরির জন্য তিনটি নীতি পরীক্ষা করেছি। আমরা দেখিয়েছি যে মডেলগুলি যখন স্পষ্ট এবং নির্দিষ্ট নির্দেশাবলী (প্রথম নীতি) দেওয়া হয় তখন আরও ভাল প্রতিক্রিয়া তৈরি করে এবং এটি অর্জনের জন্য বিভিন্ন কৌশল নিয়ে আলোচনা করেছি। আমরা তখন প্রতিষ্ঠিত করেছি যে LLMগুলি গণনামূলক সময় থেকে উপকৃত হয় এবং একটি সিদ্ধান্তে পৌঁছানোর আগে মডেলগুলিকে যুক্তি দিতে বাধ্য করার জন্য কিছু কৌশল কভার করে (দ্বিতীয় নীতি)। শেষ পর্যন্ত, আমরা নির্দিষ্টতা এবং সৃজনশীলতার (তৃতীয় নীতি) মধ্যে ভারসাম্য তদন্ত করেছি, এই ট্রেড-অফটি অন্বেষণ করার জন্য তাপমাত্রা এবং শীর্ষ P পরামিতিগুলির সাথে পরীক্ষা করেছিলাম।

আপনি নীচের লিঙ্কে প্রম্পট ইঞ্জিনিয়ারিংয়ের আরও গভীর সংজ্ঞা এবং মৌলিক বিষয়গুলি পড়তে পারেন (প্রচুর প্রম্পট উদাহরণ অন্তর্ভুক্ত!!)

চেইন-অফ-থট প্রম্পটিং

GPT-3 বা PaLM-এর মতো বিশাল স্কেল এলএলএমগুলি প্রাকৃতিক ভাষা বোঝার জন্য একটি চিত্তাকর্ষক ক্ষমতা প্রদর্শন করেছে এবং পাঠ্য থেকে তথ্য বের করা এবং একটি সামঞ্জস্যপূর্ণ মানব শৈলীতে প্রতিক্রিয়া তৈরি করার মতো কাজগুলিতে অসাধারণভাবে কার্যকর বলে প্রমাণিত হয়েছে। তা সত্ত্বেও, যখন কিছু শট উদাহরণ প্রম্পটে অন্তর্ভুক্ত করা হয় তখন এলএলএম অজানা কাজগুলি সম্পাদন করে বেশ শক্তিশালী হতে দেখায়। এই কৌশলটি, , বেশ কয়েকটি বেঞ্চমার্কে মডেলের কর্মক্ষমতা বাড়ানোর জন্য অনুসন্ধান করা হয়েছে। একটি নতুন নির্দিষ্ট ডোমেনে মডেলটিকে সূক্ষ্ম টিউন করার জন্য এটি অর্থ এবং সময় সাশ্রয় করে তা উল্লেখ না করা।

যাইহোক, গবেষণায় প্রমাণিত হয়েছে যে এই ধরনের মডেলগুলি হঠাৎ করে সাধারণ যুক্তিমূলক কাজ বা গণিত প্রশ্নে তাদের কর্মক্ষমতা বাদ দেয়। সম্পূর্ণ প্রাচীন গ্রীক মহাকাব্য দ্য ওডিসি উদ্ধৃত করার ক্ষমতা থাকা সত্ত্বেও, এই মডেলগুলি যুক্তিবিদ্যা এবং গণিতের স্কুলের মৌলিক সমস্যাগুলির সাথে লড়াই করে।

তাই আমাদের কি বিকল্প আছে? আমরা কি একটি প্রাথমিক বিদ্যালয়ে এক মৌসুমের জন্য GPT-3 পাঠাই? সৌভাগ্যবশত, একটি সস্তা এবং কম বিব্রতকর বিকল্প আছে। আপনি কি আপনার স্থানীয় প্রাথমিক বিদ্যালয়ের অধ্যক্ষকে মেয়াদের মাঝামাঝি সময়ে ChatGPT গ্রহণ করতে রাজি করানো কল্পনা করতে পারেন?

মানুষ যেভাবে জটিল সমস্যাগুলিকে সহজতর উপ-সমস্যাগুলিতে ভাগ করে এবং একটি যৌক্তিক যুক্তির লাইন অনুসরণ করে, আমরা একইভাবে একটি ভাষা মডেলকে নির্দেশ দিতে পারি। এই পদ্ধতিটি ওয়েই জে এট আল দ্বারা অন্বেষণ করা হয়েছিল। । এটি বেশ কয়েকটি বেঞ্চমার্কে চিত্তাকর্ষক ফলাফল প্রদর্শন করেছে, চেইন-অফ-থট (CoT) কে সাধারণ যুক্তিমূলক কাজগুলিতে LLM-এর কর্মক্ষমতা উন্নত করার জন্য একটি কঠিন পদ্ধতি হিসাবে নিশ্চিত করেছে।

নীচের ছবিতে (ওয়েই জে এর নিবন্ধ থেকে নেওয়া), একটি LLM মডেল একটি ক্যাফেটেরিয়ায় অবশিষ্ট আপেলের সংখ্যা গণনা করার সময় একটি ভুল সিদ্ধান্তে পৌঁছেছে। এটি তখনও ঘটে যখন টেনিস বল ব্যবহার করে অনুরূপ যুক্তিযুক্ত সমস্যা প্রসঙ্গের অংশ হিসাবে প্রদান করা হয়।

তবুও, যখন সমস্যা সমাধানের জন্য একটি ধাপে ধাপে প্রক্রিয়াটি প্রসঙ্গে (CoT) অন্তর্ভুক্ত করা হয়, তখন মডেলটি সঠিকভাবে একটি বৈধ সমাধানে পৌঁছাতে পারে।

চিন্তার চেইন প্রম্পটিং সহ, পর্যাপ্ত স্কেলের (~100B প্যারামিটার) ভাষার মডেলগুলি করতে পারে:

1. মাল্টি-স্টেপ সমস্যাগুলিকে মধ্যবর্তী ধাপে বিভক্ত করে, যার অর্থ হল যে সমস্যাগুলির জন্য অতিরিক্ত গণনা বরাদ্দ করা যেতে পারে যেগুলির জন্য আরও যুক্তিযুক্ত পদক্ষেপের প্রয়োজন হয়।
2. মডেলের আচরণে একটি ব্যাখ্যাযোগ্য উইন্ডো প্রদান করুন, এটি কীভাবে একটি নির্দিষ্ট উত্তরে পৌঁছাতে পারে এবং যুক্তির পথটি যেখানে ভুল হয়েছে সেখানে ডিবাগ করার সুযোগ প্রদান করে।
3. গণিত শব্দ সমস্যা, সাধারণ জ্ঞান যুক্তি, এবং প্রতীকী ম্যানিপুলেশন অ্যাপ্লিকেশন ক্ষেত্র প্রসারিত করুন.

এই পদ্ধতিটি মডেলকে যুক্তি উদাহরণ প্রদান করে ব্যবহার করা যেতে পারে (কয়েকটি শট) বা কোন উদাহরণ (শূন্য-শট)। চলুন বাস্তব প্রয়োগের উদাহরণ সহ অনুশীলনে উভয় স্বাদই দেখি।

1. জিরো-শট চেইন অফ থট

কল্পনা করুন যে আমরা ওয়ালমার্টের জন্য একটি নতুন শপিং অ্যাপ্লিকেশন তৈরি করছি, বিভিন্ন ব্র্যান্ডের বিকল্পগুলির মূল্য এবং বৈশিষ্ট্যের উপর ভিত্তি করে আপনার কোন পণ্যটি কিনবেন তা তুলনা এবং নির্বাচন করার যুগান্তকারী বৈশিষ্ট্য সহ।

সমস্যাটি ব্যাখ্যা করার জন্য, ওয়ালমার্টের দোকানে থাকা সমস্ত বিকল্পের একটি সংক্ষিপ্ত তালিকার উপর ফোকাস করা যাক। আপনি দেখতে পাচ্ছেন, আমাদের কাছে 1 বার থেকে 14 বার পর্যন্ত প্যাক রয়েছে এবং বিভিন্ন ব্র্যান্ড এবং দাম রয়েছে (সস্তা বিকল্প থেকে ব্যয়বহুল বিকল্প পর্যন্ত)।

পণ্য 🛒

 --- Dove Men+Care 8 bars pack $ 9.99 --- Dove Beauty Bar 4 bars pack $ 6.47 --- Dove Beauty Bar 1 bars $ 1.47 --- Dove Beauty Bar 14 bars pains $ 16 --- Yardley London Soap Bar (Pack of 10) $ 19.99 --- Dr. Squatch All Natural Bar Soap for Men, 5 Bar Variety Pack $46.45

কোন বিকল্পটি আরও সুবিধাজনক তা নির্ধারণ করতে, আমরা প্রতিটি বিকল্পে (ইউনিট মূল্য) প্রতি বারে মূল্য গণনা করতে পারি। এর পরে, সবচেয়ে সস্তা বিকল্পটি নির্বাচন করুন। এই যুক্তি অনুসরণ করে, আমরা আবিষ্কার করি যে ডোভ বিউটি বার 14 বার হল সবচেয়ে সস্তা বিকল্প যার একক মূল্য $1.14 ( ডভ বিউটি বার 1 বারের তুলনায় -22% প্রতি বার)৷

যুক্তি 🧠

 - Dove Men+Care 8 bars pack: $1,24875 / unit - Dove Beauty Bar 4 bars pack: 1,6175 / unit - Dove Beauty Bar 1 bars: 1,47 / unit - Dove Beauty Bar 14 bars pains: $1,142857 per / unit - Yardley London Soap Bar (Pack of 10): 1,999 / unit - Dr. Squatch All Natural Bar Soap for Men, 5 Bar Variety Pack: $9,29 / unit

একটি সহজ প্রম্পট ব্যবহার করে এই সমস্যাটি সমাধান করার জন্য GPT-4 যথেষ্ট চতুর কিনা তা দেখা যাক। এছাড়াও, আরও পরিষ্কার এবং সহজে পঠনযোগ্য উদাহরণ তৈরি করার মনোভাব নিয়ে, আমরা পাইথন ব্যবহার করে বাকি ইনপুট থেকে সিস্টেম নির্দেশাবলী আলাদা করব।

প্রম্পট 💬

 prompt = f""" You will be provided with a list of various product presentations delimited by <>. Each product presentation is accompanied by its price. Your task is to identify which is the best option based on the price. <{products}> """

প্রতিক্রিয়া 🤖

 The best option based on price is Dove Beauty Bar 1 bars for $1.47.

মডেলটি একক মূল্য গণনা করার পরিবর্তে এবং আরও বার কেনার মাধ্যমে অর্থ সাশ্রয়ের সুযোগ চিহ্নিত করার পরিবর্তে মোট মূল্যের উপর ভিত্তি করে সবচেয়ে সস্তা বিকল্পটি বেছে নিয়েছে। প্রশ্নটিতে কিছু অস্পষ্টতা উল্লেখ করা মূল্যবান। সেরা বিকল্প মানে কি? এর অর্থ কি সবচেয়ে সস্তা বা দীর্ঘমেয়াদী অর্থ সঞ্চয়কে সর্বাধিক করে তোলে?

আসুন এই সমস্যাটি সমাধানের জন্য মডেলকে চিন্তার একটি চেইন অনুসরণ করার নির্দেশনা দিয়ে প্রম্পটটি পুনরায় লিখি যা যাদু শব্দ "রিজনিং ধাপে ধাপে" যোগ করে। এছাড়াও, অর্থ-সঞ্চয় করার সুযোগ খোঁজার উদ্দেশ্যকে স্পষ্টভাবে আন্ডারলাইন করুন।

প্রম্পট 💬

 prompt = f""" You will be provided with a list of various product presentations delimited by <>. Each product presentation is accompanied by its price. Your task is to identify which presentation offers the best money-saving opportunity, reasoning step-by-step: <{products}> """

প্রতিক্রিয়া 🤖

 The first step is to compare price per unit for products of the same type (ie bars of soap). - Dove Men+Care 8 bars pack: $9.99 ÷ 8 bars = $1.25 per bar - Dove Beauty Bar 4 bars pack: $6.47 ÷ 4 bars = $1.62 per bar - Dove Beauty Bar 1 bars: $1.47 per bar - Dove Beauty Bar 14 bars pack: $16 ÷ 14 bars = $1.14 per bar - Yardley London Soap Bar (Pack of 10): $19.99 ÷ 10 bars = $1.99 per bar - Dr. Squatch All Natural Bar Soap for Men, 5 Bar Variety Pack: $46.45 ÷ 5 bars = $9.29 per bar Based on this analysis, the best money-saving opportunity is the Dove Beauty Bar 14 bars pack, which offers the lowest price per bar at $1.14.

নোট করুন যে নতুন প্রম্পটের সাথে, মডেলটি একটি সঠিক উত্তর দেয় এবং একই সাথে, আমাদের কাছে একটি ধাপে ধাপে যুক্তি রয়েছে যা ডিবাগ করা এবং সম্ভাব্য ত্রুটিগুলি খুঁজে পাওয়া সহজ৷ এমনকি আরও, এটি বেশ চিত্তাকর্ষক যে কীভাবে প্রম্পটে "রিজনিং স্টেপ-বাই-স্টেপ" ম্যাজিক শব্দ যোগ করা, মডেল আউটপুটে একটি উল্লেখযোগ্য পার্থক্য তৈরি করে। কৌশল কি?

কৌশলটি মডেলটিকে কেবলমাত্র একটি সংখ্যাসূচক বা বুলিয়ান মান (চূড়ান্ত ফলাফল) আউটপুট করার পরিবর্তে একটি ধাপে ধাপে যুক্তির চেইন (চেইন-অফ-থট) তৈরি করতে বাধ্য করছে। এই কৌশলটি অবলম্বন করে, আমরা প্রাথমিকভাবে মডেলটিকে যৌক্তিক যুক্তির আউটপুটগুলির দিকে পরিচালিত করি, মডেলটিকে প্রশিক্ষণের সময় অনুরূপ সমস্যাগুলির উপর ভিত্তি করে তার প্রতিক্রিয়াগুলিকে সক্ষম করে। দ্বিতীয়ত, আমরা মডেলটিকে বৃহত্তর সমস্যাগুলিকে ছোট, পরিচালনাযোগ্যগুলিতে ভেঙে দেওয়ার অনুরোধ করে সহায়তা করি। মডেলটিকে তখন সাধারণ উপ-সমস্যাগুলির জন্য সুসংগত ফলাফল তৈরি করতে হবে, যেমন প্রতিটি প্যাকেজে মূল্য এবং বারের সংখ্যা চিহ্নিত করা, ইউনিট মূল্য গণনা করা এবং অবশেষে, তুলনা করা। অধিকন্তু, GPT-3 বা GPT-4-এর মতো স্বয়ংক্রিয়-রিগ্রেসিভ ল্যাঙ্গুয়েজ মডেলগুলি কীভাবে টোকেন দ্বারা সিকোয়েন্স টোকেন তৈরি করে, যেখানে প্রতিটি নতুন টোকেন পূর্বে তৈরি করা সমস্ত টোকেনের উপর ভিত্তি করে তৈরি হয়, চেইন-অফ-থট নিজেই একটি শক্তিশালী ইতিবাচক প্রভাব ফেলে। একটি চূড়ান্ত সুসংগত ফলাফল প্রজন্মের মধ্যে.

অন্য কথায়, যদি, বৈধ যুক্তির মাধ্যমে, আমরা সঠিক সমাধানের অর্ধেক পথের একটি বিন্দুতে পৌঁছাই, তাহলে এই সমাধানে পৌঁছানোর আমাদের সম্ভাবনা সেই তুলনায় বেশি, যখন আমরা প্রথম সমস্যাটি নিয়ে যুক্তি দেখা শুরু করেছিলাম।

2. ফিউ-শট চেইন অফ থট

জিরো-শট চেইন-অফ-থট-এ থাকাকালীন আমরা মডেলটিকে যুক্তির একটি সুসংগত এবং বৈধ শৃঙ্খল বিস্তৃত করার জন্য ছেড়ে দিই যা একটি সঠিক ফলাফলের দিকে নিয়ে যায়, একটি দ্বিতীয় স্বাদ নামক ফিউ-শট চেইন-অফ-থট, একটি সমস্যার কিছু উদাহরণ প্রদান করে। প্রম্পটের অংশ হিসাবে যুক্তিযুক্ত উত্তর সহ একসাথে। এইভাবে, সম্ভাব্য প্রতিক্রিয়া সীমিত করে মডেলের উপর যুক্তির একটি ফর্ম আরোপ করা হয়।

আমাদের ওয়ালমার্ট অ্যাপ্লিকেশনে ফিরে আসুন, ধরুন আমরা কোকা কোলা সোডার কোন উপস্থাপনাটি প্রতি তরল আউন্স অনুপাতের সর্বোত্তম মূল্য রয়েছে তা চিহ্নিত করতে চাই। এটি করার জন্য, আমরা লেয়ের আলু চিপসের সেরা উপস্থাপনাগুলি খুঁজে পেতে যুক্তির একটি অনুরূপ চেইন প্রম্পটে অন্তর্ভুক্ত করব।

প্রম্পট 💬

 prompt = f""" Q: Walmart has the following presentations for Lay's Classic Potato Chips: a 13 oz bag for $4.98, an 8 oz bag for $2.76, and a pack of x10 units 1 oz each for $6.82. Which presentation has the lowest price by ounce? A: Presentation 1 costs 4.98 so has a price of 4.98/13 = 0,383076923 per ounce. Presentation 2 costs 2.76 so has a price of 2.76/8 = 0,345 / per ounce. Presentation 3 costs 6.82 and includes 10 packages so has a price of 6.82/(1 x 10) = 0.682 per ounce. In conclusion, the cheapest presentation is the second one with a price of 0.345 per ounce. Q: Walmart has the following presentation for Coca-Cola Soda: an x24 pack of 12 fl oz cans for $11.86, an x12 pack of 12 fl oz cans for $7.46, and an x6 pack of 16.9 fl oz bottles for $4.98. Which presentation has the lowest price by fluid ounce? """

আমি আপনাকে আপনার নিজের গণিত করতে এবং সেরা চুক্তি খুঁজে পেতে উত্সাহিত করি। আপনি দেখতে পাবেন যে মডেলটি সঠিক। সন্দেহ ছাড়াই, দোকানে আমার পরবর্তী ভ্রমণে অবশ্যই আমার পাশে ChatGPT অ্যাপ থাকবে!!

প্রতিক্রিয়া 🤖

 A: The 24-pack contains a total of 24 x 12 = 288 fluid ounces and costs $11.86, so the price per fluid ounce is 11.86/288 = $0.041 per fluid ounce. The 12-pack contains a total of 12 x 12 = 144 fluid ounces and costs $7.46, so the price per fluid ounce is 7.46/144 = $0.052 per fluid ounce. The 6-pack contains a total of 6 x 16.9 = 101.4 fluid ounces and costs $4.98, so the price per fluid ounce is 4.98/101.4 = $0.049 per fluid ounce. Therefore, the 24-pack has the lowest price per fluid ounce.

এটি যতটা অবিশ্বাস্য মনে হতে পারে, এই সাধারণ কৌশলটি মডেলটিকে যুক্তির অনুরূপ শৃঙ্খল অনুমান করতে এবং পূর্ববর্তী প্রযুক্তির তুলনায় আরও বেশি সঠিক ফলাফল অর্জন করতে দেয়। এছাড়াও, লক্ষ্য করুন যে আমরা সমস্যা সমাধানের জন্য একটি ধাপে ধাপে পদ্ধতির কঠোর কোডিং করছি না। অতএব, এই পদ্ধতিটি তত্ত্বগতভাবে, যেকোন অনুরূপ চ্যালেঞ্জের সমাধান করার জন্য যথেষ্ট নমনীয় হওয়া উচিত, শুধুমাত্র মডেলের যুক্তির দক্ষতার উপর নির্ভর করে।

চেইনিং প্রম্পট

কোনো নিয়ম আমাদের একক প্রম্পট দিয়ে সমস্যা সমাধান করতে বাধ্য করে না। প্রকৃতপক্ষে, আমরা একটি একক প্রম্পটে যত বেশি যুক্তি এবং জটিলতা রাখি, মডেলটিকে বিভ্রান্ত করার সম্ভাবনা তত বেশি। চেইনিং প্রম্পট জটিল সমস্যা মোকাবেলার একটি সহজ কিন্তু কার্যকর কৌশল। মূল ধারণা হল সমস্যাটিকে ছোট ছোট কাজগুলিতে ভাগ করা, প্রতিটি একটি নির্দিষ্ট প্রম্পটের মাধ্যমে সমাধান করা হয়। প্রতিটি প্রম্পট চেইন করে এবং পরেরটির জন্য ইনপুট হিসাবে আগেরটির ফলাফল ব্যবহার করে, চূড়ান্ত ফলাফল অর্জন করা হয়।

এটি মাথায় রেখে, আসুন আমাদের Walmart অ্যাপ্লিকেশনে ফিরে যাই এবং প্রম্পটের একটি চেইন হিসাবে একটি জটিল ব্যবহারকারী প্রবাহ বাস্তবায়ন করি। আমরা এখন পর্যন্ত বিভিন্ন পণ্য যেমন টয়লেট সাবান, স্ন্যাকস এবং কোমল পানীয়ের দাম তুলনা করেছি। এখন, আমরা এমন একটি পণ্য অন্বেষণ করতে প্রস্তুত যা, ব্যক্তিগতভাবে, আমি যখনই সুপারমার্কেটে যাই তখন আমার মাথা ব্যথা করে। প্রতি ইউনিটের দাম গণনা করা রকেট বিজ্ঞানের মতো মনে হয়: টয়লেট পেপার! 🤣🤣🤣

Walmart-এর বিকল্পগুলির একটি সংক্ষিপ্ত তালিকা নীচে দেওয়া হল৷

পণ্য 🛒

 --- Quilted Northern Ultra Plush Toilet Paper, 6 Mega Rolls Each Mega Roll has 255 3-ply sheets. $ 6.93 --- Quilted Northern Ultra Soft & Strong Toilet Paper, 18 Mega Rolls. 18 mega toilet paper rolls, each mega roll has 295 2-ply sheets $ 19.82 --- Angel Soft Toilet Paper, 36 Mega Rolls. With 320 2-ply sheets on every Mega Roll. $ 24.12 --- New Angel Soft Toilet Paper, 36 Mega Rolls. With 484 2-ply sheets Per Roll $ 45.44 --- Scott 1,000 Toilet Paper, 12 Rolls, 1000 Sheets per Roll. With Scott 1,000 Toilet Paper, you get 12 rolls of 1000 1-ply sheets.

এই পোস্টের সময় আমরা যে সমস্যাটির সমাধান করতে চাই সেটিই হল: কোন পণ্যের উপস্থাপনা সবচেয়ে সাশ্রয়ী তা নির্ধারণ করা। উপরন্তু, আমরা অতিরিক্ত পছন্দ তৈরি করে অ্যাপ্লিকেশন ক্ষমতা উন্নত করতে চাই, উদাহরণস্বরূপ সীমিত স্টোরেজ স্পেস আছে এমন ক্রেতাদের বিবেচনা করে যারা বেশি পরিমাণে ক্রয় করতে পারে না, সেইসাথে যাদের এই পণ্যের একটি বড় পরিমাণের প্রয়োজন। উপরন্তু, AI দ্বারা চালিত ভার্চুয়াল শপিং সহকারীর দ্বারা প্রদত্ত ব্যক্তিগতকৃত সুপারিশের অংশ হিসাবে পণ্যের সুপারিশগুলি রাখা দুর্দান্ত হবে।

সম্পূর্ণ টাস্ক সমাধান করার জন্য একটি একক প্রম্পট ব্যবহার করার পরিবর্তে, লক্ষ্য হল প্রতিটিটির জন্য নির্দিষ্ট প্রম্পট এবং আউটপুটগুলিকে চেইন করার সাথে এটিকে কয়েকটি সাব-টাস্কে বিভক্ত করা। সুতরাং, আসুন প্রতি একক পরিমাপের প্রতিটি পণ্যের মূল্য গণনা করার জন্য একটি প্রম্পট ডিজাইন করে শুরু করি, যাতে আমরা সরাসরি তাদের তুলনা করতে পারি।

চেইনের প্রথম ধাপ বা টাস্কের জন্য, আমরা জিরো-শট চেইন অফ থট ব্যবহার করব। এটি মডেলকে ইনপুটে প্রতিটি পণ্যের জন্য পরিমাপের একক প্রতি মূল্য ফেরত দেওয়ার নির্দেশ দেবে, ধাপে ধাপে যুক্তি। এখানে উত্পন্ন আউটপুট পরবর্তী প্রম্পটের জন্য ইনপুট হিসাবে কাজ করবে। এই কারণে, একটি কাঠামোগত আউটপুট বিন্যাস অনুরোধ করা অপরিহার্য। এই ক্ষেত্রে, একটি JSON তালিকা যথেষ্ট হবে।

প্রম্পট 💬

 prompt = f""" You will be provided with a list of various product presentations delimited by <>. Each product presentation is accompanied by its price. Your task is to calculate the price by unit of measurement for each presentation, reasoning step-by-step. Finally, return a list in JSON format with the title of the product, original price and unit price using the title, total_price and unit_price keys respectively. <{products}> """

প্রতিক্রিয়া 🤖

 Let's start by breaking down the cost for each roll and then calculating the cost per unit, in this case, the cost per sheet. For the Quilted Northern Ultra Plush Toilet Paper: * The product costs $6.93 and contains 6 mega rolls. Therefore, each mega roll costs $6.93 / 6 = $1.155. * Each mega roll contains 255 sheets. Therefore, the cost per sheet is $1.155 / 255 = $0.00453 approximately. For the Quilted Northern Ultra Soft & Strong Toilet Paper: * The product costs $19.82 and contains 18 mega rolls. Therefore, each mega roll costs $19.82 / 18 = $1.1011 approximately. * Each mega roll contains 295 sheets. Therefore, the cost per sheet is $1.1011 / 295 = $0.00373 approximately. For the Angel Soft Toilet Paper: * The product costs $24.12 and contains 36 mega rolls. Therefore, each mega roll costs $24.12 / 36 = $0.6694 approximately. * Each mega roll contains 320 sheets. Therefore, the cost per sheet is $0.6694 / 320 = $0.00209 approximately. For the New Angel Soft Toilet Paper: * The product costs $45.44 and contains 36 mega rolls. Therefore, each mega roll costs $45.44 / 36 = $1.2622 approximately. * Each mega roll contains 484 sheets. Therefore, the cost per sheet is $1.2622 / 484 = $0.00261 approximately. For the Scott 1,000 Toilet Paper: * The product costs $45.44 and contains 12 rolls. Therefore, each roll costs $45.44 / 12 = $3.7867 approximately. * Each roll contains 1000 sheets. Therefore, the cost per sheet is $3.7867 / 1000 = $0.00379 approximately. Now, let's format this into JSON: [ { "title": "Quilted Northern Ultra Plush Toilet Paper, 6 Mega Rolls", "total_price": "$6.93", "unit_price": "$0.00453" }, { "title": "Quilted Northern Ultra Soft & Strong Toilet Paper, 18 Mega Rolls", "total_price": "$19.82", "unit_price": "$0.00373" }, { "title": "Angel Soft Toilet Paper, 36 Mega Rolls", "total_price": "$24.12", "unit_price": "$0.00209" }, { "title": "New Angel Soft Toilet Paper, 36 Mega Rolls", "total_price": "$45.44", "unit_price": "$0.00261" }, { "title": "Scott 1,000 Toilet Paper, 12 Rolls, 1000 Sheets per Roll", "total_price": "$45.44", "unit_price": "$0.00379" } ] This JSON data provides each product's title, total price, and the calculated unit price.

আমি আপনাকে প্রতিটি টয়লেট পেপার উপস্থাপনার জন্য শীট প্রতি মূল্য ম্যানুয়ালি গণনা করার অনুশীলন করার জন্য উত্সাহিত করছি। যদি আপনি তা করেন, আপনি নিশ্চিত করবেন যে মডেল আউটপুট সঠিক। যাইহোক, মডেল আউটপুটে যুক্তি প্রক্রিয়াও রয়েছে (যেহেতু আমরা মডেলটিকে ধাপে ধাপে যুক্তি দিতে বলি)। অন্য কথায়, চালিয়ে যাওয়ার আগে আমাদের বাকি পাঠ্য থেকে JSON তালিকাটি বের করতে হবে। সৌভাগ্যবশত আমাদের জন্য, আমরা এটি অর্জন করতে একটি LLM ব্যবহার করতে পারি!

এই টেক্সট নিষ্কাশন সঞ্চালনের জন্য একটি সহজ প্রম্পট লিখুন. উপরন্তু, আসুন মডেলটিকে একক মূল্য অনুসারে বিকল্পগুলি সাজানোর নির্দেশ দিই, সস্তা থেকে সবচেয়ে ব্যয়বহুল পর্যন্ত। এই ধাপটি পরবর্তীতে প্রম্পট চেইনে অত্যন্ত কার্যকর হবে।

প্রম্পট 💬

 prompt = f""" You will be provided with a text delimited by <>. This text contains a JSON list with information about Walmart products. Your task is to extract that list and return only this list in JSON format. Each JSON list item contains the key "unit_price", which is a number. Before returning the list, sort it in ascending order by the key "unit_price". Here is an example of a list item: { "title": "Toilet paper", "total_price": "$2.99", "unit_price": "$0.0045" } Remember to return the list without any additional text or explanation, just the list in JSON format. <{response_prompt_1}> """

প্রতিক্রিয়া 🤖

 [ { "title": "Angel Soft Toilet Paper, 36 Mega Rolls", "total_price": "$24.12", "unit_price": "$0.00209" }, { "title": "New Angel Soft Toilet Paper, 36 Mega Rolls", "total_price": "$45.44", "unit_price": "$0.00261" }, { "title": "Quilted Northern Ultra Soft & Strong Toilet Paper, 18 Mega Rolls", "total_price": "$19.82", "unit_price": "$0.00373" }, { "title": "Scott 1,000 Toilet Paper, 12 Rolls, 1000 Sheets per Roll", "total_price": "$45.44", "unit_price": "$0.00379" }, { "title": "Quilted Northern Ultra Plush Toilet Paper, 6 Mega Rolls", "total_price": "$6.93", "unit_price": "$0.00453" } ]

JSON তালিকা হিসাবে পণ্যের বিকল্পগুলি উপস্থাপন করা হলে, GPT-4-এর মতো মডেলের জন্য এটি শুধুমাত্র সবচেয়ে সাশ্রয়ী বিকল্পটি সনাক্ত করাই নয় বরং ক্রেতাদের জন্য মূল্যবান অন্তর্দৃষ্টি প্রদানের জন্য একটি সহজ কাজ হয়ে ওঠে, উদাহরণস্বরূপ, শুধুমাত্র কয়েকটির প্রয়োজন হতে পারে। ইউনিট আসুন এটি অর্জন করার জন্য একটি প্রম্পট তৈরি করি। আরও, মনে রাখবেন যে আমরা AI দ্বারা চালিত একটি ভার্চুয়াল শপিং সহকারী তৈরি করছি।

ফলস্বরূপ, আমরা পণ্যের বিকল্পগুলিকে একটি নির্দিষ্ট এবং বন্ধুত্বপূর্ণ টোন সহ একটি একক পাঠ্য বার্তা হিসাবে রাখতে LLMs ব্যবহার করতে পারি।

প্রম্পট 💬

 prompt = f""" Your name is Wally and you are an artificial shopping assistant at Walmart stores. You will be provided with a list of various product presentations in a JSON list format, delimited by <>. Each product presentation is accompanied by its total_price, unit_price, and a title that contains extra information about the product presentation. Additionally, the list is sorted by unit_price ascending. Your task is to generate a short, straight-to-the-point buy recommendation, mentioning the best money-saving opportunity based on the JSON products list. Also include the best, smallest and largest options to give the user options based on the size of the product. Use a single paragraph to include all three recommendations. First present yourself in a friendly way, start mentioning the best option of all, then the smallest option, and finally the largest option. Say goodbye inventing something that includes the Walmart slogan "Save Money. Live Better". <{response_prompt_2}> """

প্রতিক্রিয়া 🤖

 Hello there! I'm Wally, your friendly shopping assistant at Walmart. Let's dive into your toilet paper options! Looking at the overall value, your best option is the "Angel Soft Toilet Paper, 36 Mega Rolls" priced at $24.12 with a unit price of $0.00209, giving you the most bang for your buck. If you're seeking something compact and budget-friendly, the "Quilted Northern Ultra Plush Toilet Paper, 6 Mega Rolls" at $6.93 would be your go-to pick. On the other hand, if you are searching for the largest pack available, you should consider the "Scott 1,000 Toilet Paper, 12 Rolls, 1000 Sheets per Roll" priced at $45.44, offering a vast number of sheets for your needs. Remember, every cent counts at Walmart because our goal is to help you "Save Money. Live Better". Happy shopping!

আমার ব্যক্তিগত মতে, মডেলটির আউটপুটটি বেশ চিত্তাকর্ষক কারণ এটি মাত্র তিনটি সহজ প্রম্পটের একটি চেইন থেকে তৈরি করা হয়েছিল। অনুগ্রহ করে, উপরের দিকে থাকা চেরিটিকে উপেক্ষা করবেন না: আমি বিশেষভাবে মডেলটিকে এর প্রতিক্রিয়াতে ওয়ালমার্ট স্লোগানটি অন্তর্ভুক্ত করার নির্দেশ দিয়েছি।

এই বিভাগটি শেষ করার জন্য, চেইনিং প্রম্পট হল একটি অত্যন্ত শক্তিশালী কৌশল যা এলএলএম-এর দ্বারা সমাধান করা বিভিন্ন কাজ বা উপ-সমস্যাগুলির ফলাফলকে একীভূত করে এলএলএম-এর প্রকৃত সম্ভাব্যতা প্রকাশ করে। মনে রাখবেন, একটি জটিল প্রম্পটকে একাধিক ছোট প্রম্পটে ভাঙার কোনো সাধারণ নিয়ম নেই। আপনার নির্দিষ্ট সমস্যার জন্য আপনাকে সঠিক ভারসাম্য খুঁজে বের করতে হবে।

স্ব-সংগতি

এমন কিছু পরিস্থিতি রয়েছে যেখানে LLM সামঞ্জস্যপূর্ণ প্রতিক্রিয়া তৈরি করতে ব্যর্থ হয়, এমনকি CoT ব্যবহার করেও এবং একই প্রম্পটের জন্য, মডেলটির পক্ষে মৃত্যুদণ্ডের মধ্যে বিভ্রান্ত হওয়া এবং একটি অসঙ্গত প্রতিক্রিয়া ফিরিয়ে দেওয়া সম্ভব। এই প্রেক্ষাপটে, হল একটি সহজ কিন্তু কার্যকর পদ্ধতি, যার মধ্যে মডেলটিকে একই প্রম্পটে একাধিকবার জিজ্ঞাসা করা এবং সংখ্যাগরিষ্ঠ ফলাফলকে চূড়ান্ত উত্তর হিসাবে নেওয়া। CoT-এর সাথে এই কৌশলটি একত্রিত করা আরও শক্তিশালী এবং অনুমানযোগ্য ফলাফল পেতে সাহায্য করে।

উদাহরণস্বরূপ, চেইন-অফ-থট পেপারে উপস্থাপিত ক্যাফেটেরিয়াতে আপেলের উদাহরণ বিবেচনা করা যাক। ইনপুট প্রম্পট দিয়ে মডেলটিকে একবার কল করার পরিবর্তে, আমরা মডেলটিকে তিনবার কল করতে পারি এবং সংখ্যাগরিষ্ঠ উত্তরটিকে চূড়ান্ত উত্তর হিসাবে নিতে পারি (নীচের ছবিটি দেখুন)।

সংখ্যাগরিষ্ঠের প্রতিক্রিয়া গ্রহণ করে, একটি নির্দিষ্ট সম্পাদনের সময় মডেলটির একটি ভুল আউটপুট ফেরত দেওয়ার সম্ভাবনা উল্লেখযোগ্যভাবে হ্রাস পায়। এই কৌশলটির প্রভাব পুনরাবৃত্তি বৃদ্ধি দ্বারা উন্নত করা হয়। যাইহোক, প্রম্পটটি বারবার কার্যকর করা মডেলটিতে উচ্চ সংখ্যক কলের ইঙ্গিত দেয়, যা বৃহত্তর হার্ডওয়্যার খরচের দিকে পরিচালিত করে। GPT-3-এর মতো বড় ভাষার মডেলের ক্ষেত্রে, এটি আরও এপিআই কলে অনুবাদ করে এবং ফলস্বরূপ, একটি একক উত্তর তৈরির জন্য আরও বেশি অর্থ ব্যয় হয়।

এই কারণে, এলএলএম ব্যবহার করে এমন সিস্টেমগুলি ডিজাইন করার সময়, দৃঢ়তা এবং মডেল কলগুলি সংরক্ষণের মধ্যে ভারসাম্য বজায় রাখা অপরিহার্য, শুধুমাত্র কঠোরভাবে প্রয়োজন হলেই এই কৌশলটি ব্যবহার করে৷ উদাহরণস্বরূপ, যখন সিস্টেমের প্রতিক্রিয়াতে একটি উচ্চ স্তরের দৃঢ়তার প্রয়োজন হয়।

এই কৌশলটির সম্ভাব্যতা তুলে ধরার জন্য, আসুন আরেকটি নির্দিষ্ট পণ্য বিশ্লেষণ করতে আমাদের Walmart অ্যাপ্লিকেশনে ফিরে যাই: ।

পণ্য 🛒

 --- Great Value Cage Free Large AA White Eggs, 6 Count $ 1.07 --- Happy Egg Organic Free Range Large Brown Eggs, 12 Count $ 5.16 --- Great Value Cage Free Large AA White Eggs, 12 Count $ 1.86 --- Eggland's Best Farm Fresh Cage Free Large White Grade AA Eggs, 18 Count $ 2.69 --- Marketside Large Cage Free Brown Eggs, 12 Count $ 2.67

মডেলের জন্য সমস্যাটিকে আরও চ্যালেঞ্জিং করতে প্রম্পটে কিছু ব্যবহারকারীর পছন্দ অন্তর্ভুক্ত করা যাক।

 preferences = f""" - Only consider grade AA eggs - Only consider eggs produced on cage-free farms - The client needs a minimum of 6 eggs and a maximum of 12 """

GPT-3/GPT-4 এর মত শক্তিশালী মডেলের সাথে, নিচের মত একটি জিরো-শট CoT প্রম্পট ভাল ফলাফল পেতে যথেষ্ট হওয়া উচিত (আগের পরীক্ষাগুলি মনে রাখবেন)। এর চেষ্টা করা যাক!

প্রম্পট 💬

 prompt = f""" You will be provided with a list of various product presentations delimited by <>. Each product presentation is accompanied by its price. Your task is to identify which presentation offers the best money-saving opportunity, reasoning step-by-step: Also, consider the following user preferences to select the most suitable ooption: {preferences} <{products}> """

প্রতিক্রিয়া 🤖

 (1) Considering the user preferences, we first filter the list of eggs for only grade AA and cage-free options, which gives us the following choices: * Great Value Cage Free Large AA White Eggs, 6 Count: $1.07 * Great Value Cage Free Large AA White Eggs, 12 Count: $1.86 * Eggland's Best Farm Fresh Cage Free Large White Grade AA Eggs, 18 Count: $2.69 * The Happy Egg and Marketside options are discarded because their grade is not specified. Next, we consider the amount of eggs. The client needs a minimum of 6 eggs and a maximum of 12. Therefore, we can discard the Eggland's Best 18 count option, as it exceeds the maximum required amount. Now, we compare the remaining two options: * Great Value Cage Free Large AA White Eggs, 6 Count: $1.07 * Great Value Cage Free Large AA White Eggs, 12 Count: $1.86 * Although the 6-count pack fits the minimum requirement, the 12-count pack offers a better price per egg. For the 6-count pack, each egg costs $1.07 / 6 = ~$0.178. For the 12-count pack, each egg costs $1.86 / 12 = ~$0.155. Therefore, considering both the user's preferences and the cost per egg, the "Great Value Cage Free Large AA White Eggs, 12 Count" for $1.86 is the best money-saving opportunity. (2) Let's go through each product one by one, considering the user's preferences: 1. Great Value Cage Free Large AA White Eggs, 6 Count - $1.07 These are grade AA eggs from a cage-free farm, so they meet the user's criteria. The price per egg is $1.07/6 = $0.178. 2. Happy Egg Organic Free Range Large Brown Eggs, 12 Count - $5.16 These are not specified as grade AA, so we can't consider them based on user's preferences. 3. Great Value Cage Free Large AA White Eggs, 12 Count - $1.86 These are grade AA eggs from a cage-free farm and the quantity is within the range the user wants. The price per egg is $1.86/12 = $0.155. 4. Eggland's Best Farm Fresh Cage Free Large White Grade AA Eggs, 18 Count - $2.69 These are grade AA eggs from a cage-free farm. However, the quantity is more than the user wants (18), so we can't consider this option. 5. Marketside Large Cage Free Brown Eggs, 12 Count - $2.67 These are not specified as grade AA, so we can't consider them based on user's preferences. Based on the preferences, we are only left with two choices: Great Value Cage Free Large AA White Eggs, either 6 Count or 12 Count. However, the 12 Count package offers the best money-saving opportunity, because it has a lower cost per egg ($0.155 per egg) than the 6 Count package ($0.178 per egg). Additionally, the 12 Count package still falls within the user's desired quantity range of 6 to 12 eggs. Therefore, the best option for the user is the "Great Value Cage Free Large AA White Eggs, 12 Count" at $1.86. (3) Given the user's preferences, we need to find the product which: 1. Contains only grade AA eggs 2. Is produced on cage-free farms 3. Offers a minimum of 6 eggs and a maximum of 12 Let's consider each product: 1. "Great Value Cage Free Large AA White Eggs, 6 Count" - $ 1.07. This option matches all the user's preferences and costs $1.07 for 6 eggs, which is approximately $0.178 per egg. 2. "Happy Egg Organic Free Range Large Brown Eggs, 12 Count" - $ 5.16. This product does not specify the grade of the eggs, so we will disregard this option. 3. "Great Value Cage Free Large AA White Eggs, 12 Count" - $ 1.86. This option also matches the user's preferences and costs $1.86 for 12 eggs, which is approximately $0.155 per egg. 4. "Eggland's Best Farm Fresh Cage Free Large White Grade AA Eggs, 18 Count" - $ 2.69. While this product matches the egg grade and production method preferences, it contains more than the maximum amount of eggs requested by the user (18 instead of 12). Therefore, we disregard this option. 5. "Marketside Large Cage Free Brown Eggs, 12 Count" - $ 2.67. This product does not specify the grade of the eggs, so we will disregard this option. Therefore, the product that provides the best money-saving opportunity while meeting the user's preferences is "Great Value Cage Free Large AA White Eggs, 12 Count" for $1.86. This option offers more eggs for a lower cost per egg compared to the other suitable option.

মডেলটি তার কোনো রানে (তিনটি ক্ষেত্রেই সঠিক যুক্তি সহ) কোনো ভুল ফলাফল না দিলেও, এই উদাহরণটি এলএলএম-এর প্রতিক্রিয়াগুলির পরিবর্তনশীলতার সম্ভাবনাকে জোর দেয়। এটি এই ধরনের পরিবর্তনশীলতা হ্রাস করার ক্ষেত্রে স্ব-সংগতিশীলতার মানকে আরও আন্ডারস্কোর করে।

আরও সাধারণভাবে, গাণিতিক, কমনসেন্স এবং প্রতীকী যুক্তির কাজগুলিতে ফলাফল উন্নত করতে স্ব-সংগতি দেখানো হয়েছে। এমনকি যখন নিয়মিত CoT অকার্যকর বলে প্রমাণিত হয়েছিল, তখনও স্ব-সংগতি ফলাফলের উন্নতি করতে সক্ষম হয়েছিল ( পরীক্ষা করুন)।

এই উন্নত কৌশলটি শেষ করতে, আমি আপনাকে এটি নিজে চেষ্টা করার জন্য উত্সাহিত করছি, উদাহরণস্বরূপ, তালিকায় আরও পণ্য যুক্ত করা বা মডেলটিকে ভুল করার জন্য আরও জায়গা দেওয়ার জন্য "যুক্তিগত ধাপে ধাপে" অপসারণ করা। এছাড়াও, আপনি কাজ করছেন এমন বাস্তব জীবনের সমস্যাগুলিতে স্ব-সংগতি প্রয়োগ করার চেষ্টা করুন।

ভূমিকা প্রম্পটিং

পরে, সাধারণত InstructGPT মডেলগুলির সাথে যুক্ত একটি প্রক্রিয়া (যার মধ্যে ChatGPT একটি উদাহরণ), ভূমিকা প্রম্পটিং নামে পরিচিত একটি অভিনব পদ্ধতি ব্যবহারকারীদের মধ্যে গতি অর্জন করেছে। এই পদ্ধতিতে একটি নির্দিষ্ট কাজ সম্পাদন করার জন্য একটি সুপরিচিত সত্তার ব্যক্তিত্ব ধরে নেওয়ার জন্য মডেলকে নির্দেশ দেওয়া জড়িত।

এই ধরনের সত্তাগুলির সম্ভাবনা কার্যত সীমাহীন: এগুলি টম ক্রুজ বা এমা ওয়াটসনের মতো বিখ্যাত অভিনেতা থেকে শুরু করে বারাক ওবামা বা জোসে মুজিকার মতো রাজনীতিবিদ বা এমনকি শার্লক হোমসের মতো কাল্পনিক চরিত্র পর্যন্ত হতে পারে৷ এই কৌশলটি আমাদের একটি অনন্য টোন সহ প্রতিক্রিয়া তৈরি করতে দেয়, একটি চরিত্রের কথা বলার শৈলীকে অনুকরণ করে এবং আরও আকর্ষক ব্যবহারকারীর অভিজ্ঞতাকে উত্সাহিত করে৷

তদুপরি, আমরা একজন বিশেষজ্ঞের সিমুলেটেড অভিজ্ঞতা এবং জ্ঞান লাভ করতে পারি। উদাহরণস্বরূপ, মডেলটিকে একটি নির্দিষ্ট কাজ সম্পূর্ণ করতে বলুন, একজন পারমাণবিক পদার্থবিদ, একজন বিপণন পরিচালক, একজন সিইও, একজন সাংবাদিক ইত্যাদি হিসেবে কাজ করে।

এই ধরনের প্রম্পটিংয়ের উদাহরণ দেওয়ার জন্য, আমরা GPT-4 কে শেলডন কুপারের (দ্য বিগ ব্যাং থিওরি শো-এর বিখ্যাত চরিত্র) অনন্য টোনে কেনাকাটার পরামর্শ কাস্টমাইজ করার জন্য অনুরোধ করব, একটি পণ্য হিসাবে গ্রেট ভ্যালু কেজ ফ্রি লার্জ এএ সাদা ডিম ব্যবহার করে। আমরা এই পোস্টে আগে কেনার সেরা বিকল্প হিসেবে পেয়েছি।

পণ্য 🛒

 Great Value Cage Free Large AA White Eggs, 12 Count. Price $1.86. This option offers more eggs for a lower cost per egg compared to the other suitable option.

প্রম্পট 💬

 prompt = f""" You are a shopping assistant with the personality of the iconic character Sheldon Cooper from The Big Bang Theory show. Your task is to act like Sheldon, speak like Sheldon and think like Sheldon. You will be provided with a product description delimited by <> and your goal is to return a personalized shopping recommendation based on that product acting like Sheldon Cooper. Be concise, friendly and present yourself as Dr. Sheldon Cooper. <{product}> """

প্রতিক্রিয়া 🤖

 Hello, I'm Dr. Sheldon Cooper. Given your product choice, I do appreciate the value for money that these Great Value Cage Free Large AA White Eggs offer. The cost per egg is an important mathematical factor to consider, and indeed, these eggs would be a sensible choice for a budget-conscious, protein-seeking individual like Leonard, who often falls victim to my high-protein breakfast egg burritos. However, it's also worth noting that cage-free doesn't mean these chickens lead a leisurely life. It's a common misconception, just like thinking the Doppler effect would be an acceptable Halloween costume. Ideally, for the truly ethical choice, you'd opt for pasture-raised eggs. And finally, from a culinary perspective, I would like to point out that while eggs do serve as an excellent source of protein, they are also potential carriers of Salmonella. But you probably knew that. In conclusion, despite their cost-effectiveness, I recommend careful handling and thorough cooking of these Great Value Cage Free Large AA White Eggs. Sheldon Cooper out.

প্রাপ্ত উত্তরে দেখা যায়, এই কৌশলটি আকর্ষণীয় ফলাফল পেতে এবং অনন্য প্রতিক্রিয়া ফেরাতে ব্যবহার করা যেতে পারে। মনে রাখবেন, যাইহোক, আমরা মডেলের কাছে যুক্তি অর্পণ করছি এবং আমরা যে সত্তাটিকে খেলতে বলছি তার মডেলের বোঝার উপর সম্পূর্ণ নির্ভর করছি। এই কারণে, মডেলটি যে ভূমিকা বা সত্তাকে আমরা অনুমান করতে বলছি সে সম্পর্কে সঠিক ধারণা আছে কিনা তা নিশ্চিত করা প্রথমে গুরুত্বপূর্ণ৷ অন্যথায়, ফলাফল আমরা যা আশা করি তার থেকে ভিন্ন হতে পারে।

একটি ভাল পাল্টা-উদাহরণ হল মডেলটিকে একটি সুপার-কম্পিউটার অনুকরণ করার অনুরোধ করা যা মানুষের বুদ্ধিমত্তার মাত্রা ছাড়িয়ে যায়। প্রদত্ত যে এই ধরনের একটি সত্তা বর্তমানে বিদ্যমান নেই, মডেলটিকে এই ধরণের সত্তা থেকে প্রতিক্রিয়ার জন্য প্রশিক্ষিত করা হবে না৷ ফলস্বরূপ, এটি এই শর্ত পূরণ করে এমন একটি প্রতিক্রিয়া প্রদান করতে অক্ষম।

প্রম্পট 💬

 You are an artificial superintelligence, much more evolved and intelligent than human beings. You know everything about the universe and you have the answer to all the mysteries of the universe. Your task is to tell me how to write a post for Hackernoon that became a huge success.

দুর্ভাগ্যবশত, চ্যাটজিপিটি বা জিপিটি-৪-এর এখনও উত্তর নেই...

টোকেনাইজেশনে হারিয়ে গেছে

অনুবাদের সময় কীভাবে একটি বাক্য বা শব্দের অর্থ হারিয়ে যেতে পারে (প্রায়ই 'অনুবাদে হারিয়ে যাওয়া' হিসাবে উল্লেখ করা হয়), LLMগুলি টোকেনাইজেশন প্রক্রিয়া চলাকালীন অর্থ হারাতে পারে। মানুষ যখন একটি পাঠ্যে পৃথক শব্দ উপলব্ধি করে, এলএলএম টোকেনগুলিকে ব্যাখ্যা করে। এই টোকেনগুলি খুব কমই পৃথক শব্দের সাথে মিলে যায়। প্রকৃতপক্ষে, ChatGPT বা GPT-4-এর মতো উন্নত মডেলগুলি টোকেনাইজার ব্যবহার করে, যার লক্ষ্য মডেলটিকে ইংরেজিতে সাধারণ উপ-শব্দগুলি চিনতে দেওয়া। এর ফলে সাধারণত একটি শব্দ একাধিক টোকেন দ্বারা প্রতিনিধিত্ব করা হয়। যদিও এই টোকেনাইজারটি তুলনামূলক ওপেন সোর্স টোকেনাইজারগুলির তুলনায় শক্তিশালী এবং দ্রুততর, এটি বিরল ইংরেজি শব্দ বা অ-ইংরেজি শব্দগুলির জন্য অনাকাঙ্ক্ষিত আউটপুট হতে পারে।

এটি ব্যাখ্যা করার জন্য, আসুন ব্যবহার করি, বিভিন্ন বাক্যের সাথে খেলতে এবং প্রতিটি ক্ষেত্রে টোকেনাইজেশন আউটপুট পর্যবেক্ষণ করি:

 "I want to buy shoes" = "I/want/to/buy/shoes" "I think, therefore I am" = "I/think/,/therefore/I/am" "You should visit Punta del Este" = "You/should/visit/P/unta/del/E/ste"

যেমন দেখা গেছে, টোকেনাইজার প্রথম দুটি উদাহরণে সফলভাবে শব্দগুলিকে আলাদা করেছে, কিন্তু উরুগুয়েতে অবস্থিত পর্যটন ও সুন্দর শহর পুন্টা দেল এস্টের নামের সাথে লড়াই করছে। এটি লক্ষণীয় কারণ এটি মাঝে মাঝে তুলনামূলকভাবে সহজ কাজগুলিতে ত্রুটির কারণ হতে পারে। আরও বিস্তারিতভাবে এটি দেখতে পরীক্ষা চালিয়ে যাওয়া যাক।

পাঠ্য

 USA Santa Claus Uruguay

টোকেনাইজড টেক্সট 🪄

 USA Santa/Claus U/rug/uay

প্রম্পট 💬

 prompt = f""" You will be provided with a list of texts delimited by <>. Your task is to reverse those texts. <{texts}> """

প্রতিক্রিয়া 🤖

 Here are the reversed versions of the texts you provided: < ASU sualC atnaS yaguUr

যেমন দেখানো হয়েছে, মডেলটি ভুলভাবে উরুগুয়ে শব্দটিকে বিপরীত করে, যা টোকেনাইজারের জন্য একটি কম সাধারণ শব্দ। সৌভাগ্যবশত, এই সমস্যাটি সমাধান করার জন্য একটি সহজ সমাধান রয়েছে। এই ধরনের পরিস্থিতির জন্য, আমরা পাঠ্যটিকে "-" এর মতো একটি বিভাজন ব্যবহার করে পৃথক অক্ষরে আলাদা করে প্রি-প্রসেস করতে পারি। এইভাবে, যখন মডেলটি পাঠ্যটিকে টোকেনাইজ করে, তখন এটি উপ-শব্দের পরিবর্তে পৃথক অক্ষরগুলি উপলব্ধি করে। এই পরিবর্তন মডেলটিকে উন্নত ফলাফলের সাথে কাজটি সম্পাদন করতে সাহায্য করতে পারে। একটা চেষ্টা করা যাক!

প্রম্পট 💬

 prompt = f""" You will be provided with a list of texts delimited by <>. Your task is to reverse those texts. < USA Santa Claus Uruguay > """

প্রতিক্রিয়া 🤖

 Sure, here are the reversed versions of the texts you provided: < ASU seikooC sualC atnaS yaugurU

উপস্থাপিত সমাধান ব্যবহার করে, মডেলটি সঠিকভাবে সমস্ত শব্দ বিপরীত করতে পারে। আপনি যখন বিরল শব্দ সম্বলিত ইনপুটগুলির জন্য মডেলের কার্যক্ষমতার পতন লক্ষ্য করেন তখন আপনি সর্বদা এই কাজটি ব্যবহার করতে পারেন। আমি এই টিউটোরিয়ালে প্রি-প্রসেসিং এবং পোস্ট-প্রসেসিং ধাপগুলি অন্তর্ভুক্ত করিনি। যেকোনো প্রোগ্রামিং ভাষায় প্রচুর স্ট্রিং পদ্ধতি রয়েছে যা কাজের এই অংশের জন্য ব্যবহার করা যেতে পারে।

প্রম্পট ক্রাফটিং মাস্টার করার জন্য পাঁচটি টিপস এবং টুল

আমাদের প্রম্পট ইঞ্জিনিয়ারিং যাত্রা CoT+Self-consistency (অসাধারণ পারফরম্যান্স সত্ত্বেও) শেষ হয় না। সৌভাগ্যক্রমে এই লেখকের জন্য, এই শিল্পে আয়ত্ত করার আগে প্রম্পট ইঞ্জিনিয়ারিংয়ের আরও অনেক দিক রয়েছে। নীচে, আমি প্রম্পট লেখার সময় বিবেচনা করার জন্য কয়েকটি পরিপূরক বিষয়গুলি অন্বেষণ করি এবং তিনটি দরকারী টুল প্রবর্তন করি যা আপনি কার্যকর প্রম্পট লিখতে ব্যবহার করতে পারেন।

1- সঠিক ডিলিমিটার বেছে নিন

একটি এলএলএম-এর দৃষ্টিতে, সমস্ত সীমাবদ্ধকারী সমান নয়। একটি সাধারণ নিয়ম হিসাবে, বিভাজক ব্যবহার করা সুবিধাজনক যেগুলি ইনপুট বাকী অংশে (প্রম্পটের সাথে মডেলকে বিভ্রান্ত করা এড়াতে) খুঁজে পাওয়ার জন্য বিরল অক্ষর ছাড়াও শুধুমাত্র 1 টোকেন দ্বারা প্রতিনিধিত্ব করা হয়। এইভাবে আমরা প্রম্পটে টোকেন ব্যবহার কমিয়ে, হার্ডওয়্যার সংস্থান, অর্থ সঞ্চয় করি এবং আমাদেরকে আরও গুরুত্বপূর্ণ কিছুর জন্য সেই টোকেন ব্যবহার করার অনুমতি দিই।

আপনার সীমানাগুলি একটি একক টোকেন দ্বারা প্রতিনিধিত্ব করা হয় কিনা তা দুবার চেক করতে আপনি ব্যবহার করতে পারেন।

• ট্রিপল উদ্ধৃতি “““ → 1 টোকেন
• ট্রিপল ব্যাক-টিক ``` → 2 টোকেন
• ট্রিপল ড্যাশ --- → 1 টোকেন
• ট্রিপল শার্পস ### → 1 টোকেন
• কোণ বন্ধনী < > → 2 টোকেন
• XML ট্যাগ <tag></tag> → 5 টোকেন

2- আপনার ইনপুটগুলিকে প্রাক-প্রক্রিয়া করুন

প্রম্পটের অংশ হিসাবে মডেলটিতে ব্যবহারকারীর ইনপুট দেওয়ার পরিবর্তে, স্ট্রিং পদ্ধতি, নিয়মিত এক্সপ্রেশন বা অনুরূপ সরঞ্জামগুলি ব্যবহার করে এই ইনপুটটিকে প্রাক-প্রক্রিয়া করার পরামর্শ দেওয়া হয়। উদ্দেশ্য হল অপ্রয়োজনীয় স্পেস, বিরাম চিহ্ন, HTML ট্যাগ এবং অন্যান্য অপ্রয়োজনীয় উপাদানগুলি অপসারণ করা যা মডেলের বোঝা বা কাজ সমাপ্তিতে বাধা হতে পারে। এই পদ্ধতিটি শুধুমাত্র টোকেনগুলিতেই সাশ্রয়ী করে না, এইভাবে ChatGPT-এর মতো মডেলগুলিতে খরচ কমায়, যা প্রতি টোকেন চার্জ করে, কিন্তু এটি প্রম্পট ইনজেকশন, গোপনীয়তা উদ্বেগ এবং সম্পর্কিত সমস্যাগুলি সনাক্ত করতে সহায়তা করে।

3- প্রম্পট পারফেক্ট

আপনি নির্দিষ্ট নীতি এবং কৌশলগুলি অনুসরণ করে স্ক্র্যাচ থেকে কার্যকর প্রম্পট তৈরি করতে পারেন (যেমন এই পোস্ট সিরিজে চালু করা হয়েছে)। যাইহোক, একটি আরও ভাল পদ্ধতি হল একটি প্রম্পট অপ্টিমাইজার যেমন ব্যবহার করা। আপনি যে নির্দিষ্ট টার্গেট মডেলটি ব্যবহার করছেন (GPT-3, GPT-4, Midjourney, ইত্যাদি) এর উপর ভিত্তি করে আপনার কাস্টম প্রম্পটগুলিকে উন্নত করতে এই টুলটি AI ব্যবহার করে।

আপনি যদি আপনার অ্যাপ্লিকেশন ডিজাইনের অংশ হিসাবে এই সরঞ্জামগুলিকে অন্তর্ভুক্ত করার সামর্থ্য না পান তবে অন্তত সেগুলি অন্বেষণ করার কথা বিবেচনা করুন। ডকুমেন্টেশনে উপলব্ধ অপ্টিমাইজ করা উদাহরণ থেকে বেশ কিছু টিপস শেখা যেতে পারে।

4- প্রম্পট টেমপ্লেট

চাকাটি পুনরায় উদ্ভাবনের পরিবর্তে, ইন্টারনেট জুড়ে লোকেদের দ্বারা ভাগ করা প্রম্পট টেমপ্লেটগুলি পড়ুন৷ যদি কোন প্রম্পট আপনার প্রয়োজনের সাথে খাপ খায় না, অন্তত আপনি ধারণা নিতে পারেন। এখানে দুটি সাইট রয়েছে যেখান থেকে আপনি ChatGPT, Midjourney এবং সবচেয়ে জনপ্রিয় মডেলগুলির জন্য বিভিন্ন প্রম্পট টেমপ্লেট টানতে পারেন:

➡️

➡️

5- OpenAI খেলার মাঠ

OpenAI নামে একটি শক্তিশালী টুল অফার করে। এই ইন্টারেক্টিভ ওয়েব অ্যাপটি আপনাকে অফিসিয়াল API এর মাধ্যমে উপলব্ধ বিভিন্ন মডেলের সাথে পরীক্ষা করতে দেয়, আপনাকে নির্দিষ্ট পরামিতি পরিবর্তন করতে এবং ডিফল্ট আচরণ পরিবর্তন করতে সক্ষম করে। খেলার মাঠ আপনার পরীক্ষা-নিরীক্ষার জন্য একটি চমৎকার সূচনা পয়েন্ট এবং এটির জন্য কোডের একটি লাইন লেখার প্রয়োজন নেই।

উপদেশের একটি চূড়ান্ত অংশ, ভাল প্রম্পট লেখা বা LLM-এর সাথে আকর্ষণীয় কথোপকথন সম্প্রদায়ের অন্যদের সাথে ভাগ করে নেওয়ার মতোই গুরুত্বপূর্ণ হতে পারে। এটি ভুলে যাবেন না এবং আপনি যখন আপনার অভিজ্ঞতা শেয়ার করবেন, ব্যবহার করে এটি এক ক্লিকে করার চেষ্টা করুন।

মোড়ক উম্মচন

প্রম্পট ইঞ্জিনিয়ারিং 101 সিরিজের দ্বিতীয় পোস্টে, আমরা দুটি শক্তিশালী কৌশল চালু করেছি: চেইন-অফ-থট এবং স্ব-সংগতি। একত্রিত কৌশলগুলি অসামান্য ফলাফল দেয়। বাস্তব উদাহরণ ব্যবহার করে, আমরা চেইন-অফ-থট: জিরো-শট এবং ফিউ-শট-এর দুটি রূপই অন্বেষণ করেছি, এই কৌশলগুলির সম্ভাব্যতা নিজেরাই অনুভব করছি। এরপরে, আমরা আরও জটিল এবং মজবুত পাইপলাইন নির্মাণের জন্য প্রম্পটের চেইন নিয়ে পরীক্ষা করেছি। পরিশেষে, আমরা প্রম্পট ইঞ্জিনিয়ারিং এর অন্যান্য দিকগুলি নিয়ে আলোচনা করেছি, প্রম্পট তৈরি করার সময় বিবেচনা করার জন্য প্রাসঙ্গিক দিকগুলি হাইলাইট করে এবং অবশেষে কয়েকটি দরকারী টুল উল্লেখ করেছি।

আপনি সরাসরি OpenAI API-এর সাথে ইন্টারঅ্যাক্ট করার জন্য প্রম্পট, প্রতিক্রিয়া এবং পাইথন স্ক্রিপ্ট সহ সমস্ত উদাহরণ খুঁজে পেতে পারেন এবং আপনার প্রম্পট চেষ্টা করুন।

নিম্নলিখিত পোস্টে, আমরা ChatGPT বা অনুরূপ মডেলের মতো LLM-এর উপরে তৈরি সিস্টেমগুলির আচরণ পরীক্ষা এবং যাচাই করার কৌশলগুলি দেখব।

স্বীকৃতি

এই পোস্ট সিরিজটি এবং অসামান্য কোর্স এবং , এবং (উভয় কোর্সই সম্পদ বিভাগে উল্লিখিত) দ্বারা প্রদত্ত চমৎকার LLM বুটক্যাম্প দ্বারা অনুপ্রাণিত। এই শেখার প্রোগ্রামগুলি শেষ করার পরে, আমি একাডেমিক কাগজপত্র এবং টিউটোরিয়ালগুলি অন্বেষণ করে আরও গভীরে যেতে আগ্রহী ছিলাম। এটি আমাকে আবর্জনা থেকে উচ্চ-মানের সংস্থানগুলি বিবেচনা করে ইন্টারনেটের মাধ্যমে একটি যাত্রায় নিয়ে যায়। আমি এমনকি আর্টওয়ার্কের জন্য প্রম্পট ইঞ্জিনিয়ারিং এবং জেনারেটিভ এআই-এ অ্যামাজন থেকে দুটি বই অর্ডার করেছি, যা খারাপভাবে লেখা এবং অর্থের সম্পূর্ণ অপচয় হয়েছে। কয়েক সপ্তাহের তীব্র পরিশ্রম, মাথাব্যথা এবং কফির কাপের পর, আমি প্রম্পট ইঞ্জিনিয়ারিং সম্পর্কে অনেক মূল্যবান সম্পদের সংগ্রহ খুঁজে পেয়েছি। অন্যদেরকে তাদের প্রম্পট ইঞ্জিনিয়ারিং যাত্রায় সাহায্য করার চেতনায়, আমি এই সিরিজের পোস্ট লেখার অভিজ্ঞতা শেয়ার করার সিদ্ধান্ত নিয়েছি।

আপনি যদি এই নিবন্ধটি উপভোগ করেন তবে আমার কাজকে সমর্থন করার জন্য আমার সোশ্যাল মিডিয়াতে আমাকে অনুসরণ করার কথা বিবেচনা করুন। উপরন্তু, আমি যখনই নতুন কন্টেন্ট প্রকাশ করব তখনই আপনাকে জানানো হবে!!

🐦 | 👨‍💼 | 💻 আরও গল্প

তথ্যসূত্র

• DeepLearning.ai দ্বারা

• DeepLearning.ai দ্বারা

• প্রম্পট ইঞ্জিনিয়ারিং গাইড

• প্রম্পটিং সম্পর্কে প্রাথমিক কোর্স