AI چیٹ ایپس بظاہر سادہ لگتی ہیں، لیکن لیٹنسی (latency)، سیاق و سباق (context) میں اضافے، ریٹ لمٹس (rate limits) اور دوبارہ کوششوں (retries) جیسے عوامل انہیں جلد ہی سسٹم ڈیزائن کے پیچیدہ مسائل میں بدل دیتے ہیں۔ یہ کورس AI چیٹ سروس کے بنیادی فیصلوں کے بارے میں ایک ایسا نقطہ نظر فراہم کرتا ہے جو مبتدیوں کے لیے بھی قابلِ فہم ہے، اور اس بات پر زور دیتا ہے کہ یہ فیصلے سسٹم کے ردعمل کی رفتار (responsiveness)، لاگت اور درستگی پر کیسے اثر انداز ہوتے ہیں۔ اس کورس کے اختتام پر آپ چیٹ کے ایک چھوٹے آرکیٹیکچر کی وضاحت کرنے، تاخیر اور غیر ضروری تکرار (duplicate work) کے ذرائع کی نشاندہی کرنے، اور زیادہ بوجھ (load) کی صورت میں اپنے عملی ڈیزائن کے فیصلوں کا دفاع کرنے کے قابل ہو جائیں گے۔
یہ کورس بنیادی چیٹ سروس، اسٹریمنگ ٹرن (streaming turn) میں اینڈ ٹو اینڈ لیٹنسی، گفتگو کو محفوظ کرنے اور سیاق و سباق (context) کو یکجا کرنے کے عمل، ریٹ لمٹنگ (rate limiting)، API کنٹریکٹس، آئیڈیمپوٹنسی (idempotency)، اور خرابی کی صورت میں اسٹریس ٹیسٹنگ کا احاطہ کرتا ہے۔ اس میں ان آرکیٹیکچرل فیصلوں پر توجہ مرکوز کی گئی ہے جو کم لیٹنسی (low-latency) والے AI چیٹ کے رویے کو تشکیل دیتے ہیں۔