الرشيد تقليد جعفر بن يحيى الخاتم فقال ليحيى:«إنني أريد أن أوقع بها توقيعًا لا يجري مجرى العزل للفضل، فكتب عنه يحيى: إن أمير المؤمنين رأى أن ينقل خاتم الخلاف من يمينك إلى شمالك».
وكان الرسم في الكتب الذي ينفذ من ديوان الخراج أن يكون باسم الخليفة، فلما ولي يحيى بن خالد صارت باسمه.
وقلد اسماعيل بن صبيح ديوان السر. ولما قلّد هارون الخلافة دعا بيحيى بن خالد، وكان يخاطبه بالأبوة - وعلى ذلك أجراه في خلافته - وقال له: يا أبت أنت أجلستني هذا المجلس ببركة رأيك، وحسن تدبيرك، وقد قلّدتك أمر الرعية،، أخرجته من عنقي إليك، فاحكم بما ترى، واستعمل من رأيت، واسقط من رأيت، فإني غير ناظر في شيء معك، وكان يحيى والفضل وجعفر ينظرون في أمور المسلمين وحوائجهم، لا يحجب أحد عنهم، ولا يلقى لهم ستر، ويجلسون في كل يوم لا يركبون فيه، جلوسًا عامًا إلى انتصاف النهار. وفي هارون ويحيى يقول إبراهيم الموصلي:[من الطويل]
بيمن يمين الله هارون ذي النَّدَى … فهارونُ وَاليها ويحيى وزيرها
فأمر يحيى بن خالد يوسف بن القاسم بن صبيح الكاتب، فأنشأ الكتب إلى العمال بالولاية للخليفة الرشيد، وإقرارهم على أعمالهم، فكتب في ذلك كتبًا مشهورة أجادها.
وقام يحيى بالأمور، وكان يعرض على الخيزران ويورد ويصدر عن أمرها.
ونظر يحيى في أمور السجن فأطلق بشرًا كثيرًا، فاحتفر القاطول فاستخرج نهرًا سماه أبا الجند، وأنفق عليه عشرين ألف درهم، وأقطع سدنة الكعبة على ذلك النهر لكل رجل مائة وعشرون جريبًا، وأخرج توقيعه إلى الديوان بإثبات كل من بلغ الحلم من أهل خراسان بغير أمر محدود.
وكان يحيى أوَّل من أقرَّ من الوزراء، وكان أول من زاد في الكتب:«وأسأله أن يصلي على محمد عبده ورسوله ﷺ».
وأنشأ في ذلك كتابًا في ذكر فضل الأنبياء ﵈، واختصاص نبينا ﷺ من بينهم بالتفضيل والكرامة، وإضافته اسمه ﵇ إلى اسمه ﷿ في الصلوات والأذان وأمر الله تعالى العباد بالصلاة عليه، وذكره في خطب أعيادهم ومفترض صلواتهم التي هي قوام دينهم ورؤوس أعمالهم، وأنه أحب أن يستن بما سنه