ہمارا زیرِ عمل ورک لوڈ (workload) ملازمین کے لیے ایک ‘گورنڈ’ (ضوابط کے تحت چلنے والا) انٹرپرائز اسسٹنٹ ہے۔ یہ اندرونی دستاویزات کا استعمال کرتے ہوئے سوالات کے جوابات دیتا ہے اور حقائق پر مبنی جوابات کے لیے ذرائع کا حوالہ دینا اس کے لیے لازمی ہے۔ اسے رسائی کے کنٹرول (access control) کا نفاذ بھی کرنا ہوتا ہے تاکہ صارف صرف وہی دستاویزات حاصل کر سکے جنہیں دیکھنے کا وہ مجاز ہے۔
یہ ورک لوڈ دو الگ الگ خطرات پیدا کرتا ہے جو پلیٹ فارم کے انتخاب پر اثر انداز ہوتے ہیں۔ ایک خطرہ ماڈل کے رویے سے متعلق ہے، جس میں غیر محفوظ آؤٹ پٹ، پرامپٹ انجیکشن (prompt injection)، اور ‘ہیلوசினیشن’ (یعنی ماڈل کا خود ساختہ یا غلط حقائق بیان کرنا) شامل ہیں۔ دوسرا خطرہ ڈیٹا کی حدود (data boundary) سے متعلق ہے، جس میں معلومات کی بازیافت (retrieval) یا لاگنگ کے دوران حساس مواد کا غیر ارادی طور پر ظاہر ہو جانا شامل ہے۔ ہم ان خطرات کو الگ الگ رکھیں گے کیونکہ ان کے لیے کنٹرولز اور شواہد مختلف ہیں۔
آئیے اعتماد کی حدود (trust boundaries) اور ڈیٹا کے ان راستوں کا تصور کریں جنہیں ضوابط کے تحت چلایا جانا ضروری ہے۔
یہ سبق Amazon Web Services (AWS) کے ساتھ ایک منظم (governed) انٹرپرائز اسسٹنٹ کی فراہمی کے لیے فیصلہ سازی کا ایک فریم ورک ترتیب دیتا ہے۔ ہم کامیابی کے معیارات اور ڈیٹا کی مجاز حدود (allowed data boundary) کو مدنظر رکھتے ہوئے Retrieval-Augmented Generation (RAG)، فائن ٹیوننگ (fine-tuning)، اور مختلف انفرنس (inference) آپشنز کے درمیان انتخاب کریں گے۔ ہم حفاظت (safety)، لیٹنسی (latency)، اور لاگت کو قبولیت کے بنیادی معیارات کے طور پر دیکھیں گے، نہ کہ ثانوی یا بعد میں سوچے جانے والے پہلوؤں کے طور پر۔
Amazon Bedrock ایک مکمل طور پر منظم (fully managed) اور سرور لیس (serverless) سروس ہے جو جنریٹو AI ایپلی کیشنز اور ایجنٹس کے لیے فاؤنڈیشن ماڈلز تک API رسائی فراہم کرتی ہے۔ Bedrock سرونگ انفراسٹرکچر کو پسِ پردہ رکھتا ہے (abstracts)، لہذا انسٹینس (instance) کا انتخاب اور GPU کی ٹیوننگ ایسے فیصلے نہیں ہیں جو صارف کے کنٹرول میں ہوں۔ Bedrock میں RAG، حفاظتی کنٹرولز، اور ایجنٹ کی تیاری کے لیے منظم خصوصیات بھی شامل ہیں جو ایپلی کیشن لیئر پر کام کرتی ہیں۔
Amazon SageMaker AI ایک منظم مشین لرننگ پلیٹ فارم ہے جو انفراسٹرکچر اور ورک فلو پر زیادہ کنٹرول کے ساتھ ماڈلز کی تیاری، تربیت، حسب ضرورت تشکیل (customization)، اور تعیناتی (deployment) کی سہولت دیتا ہے۔ SageMaker AI انفرنس، انسٹینس کی اقسام اور سرونگ فریم ورکس کا انتخاب کر کے اوپن (open)، ملکیتی (proprietary)، یا کسٹم ماڈلز کی میزبانی کر سکتا ہے۔ اس سے صلاحیت کی منصوبہ بندی (capacity planning)، تعیناتی کی تشکیل (deployment configuration)، اور کارکردگی و لاگت کے درمیان توازن قائم کرنے کی زیادہ ذمہ داری ہم پر عائد ہوتی ہے۔
ذمہ داریوں کو الگ کرنے کا ایک عملی طریقہ یہ پوچھنا ہے کہ ہم کس چیز کا اختیار یا ملکیت (ownership) اپنے پاس رکھنا چاہتے ہیں۔ Bedrock کو ٹوکن پر مبنی میٹرنگ (token-based metering) کے ساتھ ایک منظم API کے ذریعے ماڈل کی صلاحیت کو استعمال کرنے کے لیے بہتر بنایا گیا ہے۔ SageMaker AI کو ماڈل کی تعیناتی کے ماحول (جس میں کنٹینرز، انسٹینس فیملیز، اور فی انسٹینس-گھنٹہ لاگت شامل ہیں) کا اختیار اپنے پاس رکھنے کے لیے بہتر بنایا گیا ہے۔ ملکیت کا یہ انتخاب عام طور پر بعد میں ہونے والی RAG بمقابلہ فائن ٹیوننگ کی بحث پر حاوی رہتا ہے۔
چار مراحل پر عمل کر کے ہم اس انتخاب کے عمل کو دہرانے کے قابل بنا سکتے ہیں۔ سب سے پہلے، مطلوبہ نتائج اور جانچ کے اس طریقے کا تعین کریں جس کی بنیاد پر یہ فیصلہ کیا جائے گا کہ آیا اسسٹنٹ قابلِ قبول ہے یا نہیں۔ دوسرے نمبر پر، ڈیٹا کے ان حدود و ضوابط (governed data boundary) کا تعین کریں جن کا اطلاق ہوگا، بشمول ان معلومات کے جو کسی بھی صورت میں ماڈل فراہم کرنے والے (model provider) کو نہیں بھیجی جانی چاہئیں۔ تیسرے نمبر پر، ایسے شواہد یا ڈیٹا کی نشاندہی کریں جنہیں پروڈکشن کے دوران اکٹھا کیا جا سکے اور جو اس بات کو ثابت کریں کہ سسٹم پالیسی کے دائرہ کار میں رہ کر کام کر رہا ہے۔ چوتھے نمبر پر، اس بات کی بنیاد پر کہ ہمیں کس حد یا دائرہ کار کو کنٹرول کرنا ہے، Bedrock، SageMaker AI یا دونوں میں سے کسی ایک کا انتخاب کریں۔
آئیے، ضروریات سے لے کر کسی ایسی سروس کے انتخاب تک کے عمل کا جائزہ لیتے ہیں جس کا بھرپور دفاع کیا جا سکے۔