آپ اپنی کمپنی کے HR بوٹ (bot) سے والدین کی چھٹی (parental leave) کے بارے میں ایک سادہ سا سوال پوچھتے ہیں۔ وہ فوراً جواب دیتا ہے، پراعتماد لہجہ اختیار کرتا ہے، اور ساتھ ہی حوالہ جات (citations) بھی فراہم کرتا ہے۔ ان میں سے ایک حوالہ کسی ایسے صفحے کا عنوان معلوم ہوتا ہے جو بے ترتیب سا ہے اور آپ کی دیکھی ہوئی کسی بھی HR پالیسی سے مطابقت نہیں رکھتا۔ اگر آپ اس بوٹ کو بنا رہے ہیں یا چلا رہے ہیں، تو یہ وہ لمحہ ہے جب آپ کو اس بات کا واضح ذہنی خاکہ درکار ہوتا ہے کہ جواب کیسے تشکیل دیا گیا اور حوالہ دیا گیا متن کہاں سے آیا تھا۔
RAG کی سیکیورٹی کا آغاز اس کے آرکیٹیکچر (ڈھانچے) کو سمجھنے سے ہوتا ہے کیونکہ یہی آرکیٹیکچر اس کی افادیت اور خطرات، دونوں کی وضاحت کرتا ہے۔ اس کورس میں، ہم اسی آرکیٹیکچر کو بنیاد بنا کر ان پہلوؤں کا جائزہ لیں گے کہ کیا خرابی پیدا ہو سکتی ہے، کون سا ڈیٹا خطرے میں ہے، اور کون سے حفاظتی اقدامات نتائج میں حقیقی تبدیلی لاتے ہیں۔ سب سے پہلے، آئیے اس بنیادی عمل (flow) کو سمجھیں جس کے تحت ایک RAG ایپ سوال سے جواب تک کا سفر طے کرتی ہے۔
Retrieval-augmented generation (RAG) چیٹ بوٹ سے جواب حاصل کرنے کا ایک ایسا طریقہ ہے جس میں سوال کے وقت دستاویزات کے مجموعے سے معلومات اخذ کی جاتی ہیں۔ ایپ متعلقہ متن کو تلاش کر کے ماڈل کے ان پٹ (input) میں شامل کرتی ہے تاکہ ماڈل ایسا جواب تیار کر سکے جو اس متن کی عکاسی کرتا ہو۔ اس کا بنیادی تصور سادہ ہے: جو بھی متن تلاش کر کے لایا جاتا ہے، اس کا ماڈل کے جواب پر گہرا اثر ہوتا ہے۔
RAG سسٹم عام طور پر چند ایسے حصوں پر مشتمل ہوتا ہے جن کا ذکر آپ اس کورس کے دوران سنیں گے۔ Retriever (تلاش کنندہ) وہ جزو ہے جو متعلقہ متن کو تلاش کرتا ہے۔ Vector database (vector DB) ایک ایسا اسٹوریج سسٹم ہے جو retriever کو ملتا جلتا متن تیزی سے تلاش کرنے میں مدد دیتا ہے۔ Chunks (حصے/ٹکڑے) دستاویزات کے وہ چھوٹے حصے ہوتے ہیں جنہیں بعد میں تلاش کرنے (retrieval) کے لیے محفوظ کیا جاتا ہے۔ Top-k کا مطلب ہے کہ retriever سوال کے لیے ملنے والے بہترین ‘k’ چنکس (حصوں) کو فراہم کرتا ہے۔ Citations (حوالہ جات) وہ ریفرنسز ہیں جو ایپ ظاہر کرتی ہے تاکہ یہ بتایا جا سکے کہ جواب کے لیے کون سے چنکس استعمال کیے گئے تھے۔ آئیے دیکھتے ہیں کہ یہ تمام حصے آپس میں کس طرح جڑے ہوتے ہیں۔
ناکام ہونے کی دو عام صورتیں کسی نئے شخص کو ایک جیسی لگ سکتی ہیں کیونکہ دونوں ہی صورتوں میں جواب روانی کے ساتھ دیا جاتا ہے۔ ہیلو سینیشن (Hallucination) اس وقت ہوتی ہے جب ماڈل کوئی ایسی بات کہتا ہے جس کی تائید اسے فراہم کردہ ‘حاصل شدہ متن’ (retrieved text) سے نہیں ہوتی۔ سیکیورٹی کے حوالے سے ایک اور تشویش یہ ہے کہ حاصل شدہ متن ماڈل کو غلط یا غیر محفوظ نتیجے کی طرف لے جائے، کیونکہ وہ متن خود صارف کے مقصد کے لحاظ سے گمراہ کن ہوتا ہے۔ اس میں عملی مہارت یہ ہے کہ کسی بھی دعوے کے بارے میں ایک سوال پوچھنا سیکھا جائے: حاصل شدہ متن میں اس جملے کے لیے ثبوت کہاں موجود ہے؟
جب آپ کسی جواب کا سراغ حاصل شدہ متن کے مخصوص حصوں تک لگا سکتے ہیں، تو آپ ان دعووں کو الگ کر سکتے ہیں جن کی تائید موجود ہے اور ان دعووں کو جو بے بنیاد (یا بغیر ثبوت کے) ہیں۔ سراغ لگانے کی یہی عادت آپ کو یہ محسوس کرنے میں بھی مدد دیتی ہے کہ کب کوئی مشکوک حصہ ماڈل کی سمت کا تعین کر رہا ہے۔ دو جوابات کا موازنہ کریں اور دیکھیں کہ کون سی بات حاصل شدہ متن پر مبنی ہے اور کون سی نہیں۔