آپ BrightShield Credit Union کے لیے PhishTriage-v1 کا ایک محفوظ ابتدائی ورژن تیار کریں گے۔ ایک سیکیورٹی آرکیسٹریشن، آٹومیشن، اور ریسپانس (SOAR) پلے بک الرٹ ڈیٹا، معلومات میں اضافے (enrichment)، روٹنگ، اور منظور شدہ اقدامات کو ایک ایسے ورک فلو میں جوڑتی ہے جسے بار بار دہرایا جا سکے۔ ایک لارج لینگویج ماڈل (LLM) مرحلہ مخصوص متن کو پڑھتا ہے اور مشاورتی نوعیت کا منظم (structured) آؤٹ پٹ فراہم کرتا ہے، جیسے کہ خلاصہ یا تجویز کردہ ٹیگز۔ یہ کسی انجینئر کی مدد کر سکتا ہے کہ وہ پلے بک کو چلانے میں آسانی پیدا کرے، بغیر اس کے کہ اسے کسی واقعے (incident) کو روکنے یا قابو کرنے کا اختیار حاصل ہو۔
BrightShield میں، مفید حد بندی (boundary) واضح ہے۔ LLM فشنگ الرٹ میں اضافی معلومات شامل کر سکتا ہے، مختصر وضاحت تیار کر سکتا ہے، اور نوٹیفکیشن میں معاونت کر سکتا ہے۔ حتمی فیصلے یا کارروائی کے لیے تجزیہ کار (analyst) ہی جوابدہ رہتا ہے اور اسے ہی قرنطینہ (quarantine)، بلاکنگ، یا اکاؤنٹ میں تبدیلیوں کی منظوری دینی ہوتی ہے۔
پلے بک کا آغاز موصول ہونے والے ای میل الرٹ سے ہوتا ہے اور اختتام ریکارڈ شدہ اور قابلِ جائزہ اقدامات پر ہوتا ہے۔ غیر مصدقہ ای میل کا مواد LLM کے ‘انریچمنٹ’ مرحلے تک تب ہی پہنچ سکتا ہے جب ورک فلو اس میں سے منظور شدہ دائرہ کار سے باہر کا ڈیٹا ہٹا چکا ہو۔ LLM ایک مخصوص JSON اسکیما (schema) واپس کرتا ہے جس کی پلے بک ٹکٹ میں اندراج سے قبل تصدیق کرتی ہے۔ اسے قرنطینہ کنٹرولز، بلاک لسٹس، اسناد (credentials)، یا بعد کے مراحل کے اختیارات (downstream permissions) تک براہِ راست رسائی حاصل نہیں ہوتی۔
یہ ڈیزائن LLM کو فیصلہ ساز کے بجائے معلومات میں اضافے اور درجہ بندی کرنے والے ایک نوڈ (node) کے طور پر پیش کرتا ہے۔ تجزیہ کار کا مرحلہ (analyst gate) مشاورتی متن کو ایسے کسی بھی اقدام سے الگ رکھتا ہے جو کسی رکن، ملازم، یا کاروباری عمل میں خلل ڈال سکتا ہو۔ آئیے دیکھتے ہیں کہ PhishTriage-v1 کے دوران اعتماد (trust) کا دائرہ کار کہاں تبدیل ہوتا ہے:
ای میل کا متن، ٹکٹ کا مواد، اور اخذ کردہ ہیڈرز (headers) ایسے ان پٹ ہیں جو حملہ آور کے کنٹرول میں ہوتے ہیں۔ بالواسطہ پرامپٹ انجیکشن (Indirect prompt injection) ایک ایسا پوشیدہ ہدایت نامہ ہے جو LLM کے پڑھے جانے والے مواد میں موجود ہوتا ہے، جس کا مقصد ماڈل کے رویے کو تبدیل کرنا یا ڈیٹا کو ظاہر کرنا ہوتا ہے۔ ہیلوسینیٹڈ انڈیکیٹر (Hallucinated indicator) سے مراد کوئی من گھڑت ڈومین، پتہ، یا سیکیورٹی کی دیگر تفصیلات ہیں جن کی بنیادی ریکارڈ میں کوئی تصدیق یا تائید موجود نہیں ہوتی۔ یہ دونوں خطرات اس لیے اہم ہیں کیونکہ ایک عمدہ اور منظم خلاصہ بظاہر قابلِ عمل (actionable) لگ سکتا ہے، حالانکہ وہ غیر محفوظ یا غیر مصدقہ ہو سکتا ہے۔
BrightShield، BeaconLLM کے دائرہ کار کو صرف اندرونی سیکیورٹی ایونٹ کے متن تک محدود رکھتا ہے اور ماخذ ریکارڈ کی قابلِ سراغ (traceable) IDs کا تقاضا کرتا ہے۔ ورک فلو کے ذریعے صرف اتنا ہی متن منتقل کیا جانا چاہیے جو معلومات کی تکمیل (enrichment) کے لیے ضروری ہو۔ جو ماڈل غیر مصدقہ مواد پڑھتا ہو، اس کے پاس کوئی ٹولز، خفیہ معلومات (secrets)، یا کنٹینمنٹ (containment) کے اختیارات نہیں ہونے چاہئیں۔ آئیے ان آپریٹنگ اصولوں کا جائزہ لیتے ہیں جو یہ حدود متعین کرتے ہیں: