ولي الشرطة أولا، ثم فوض إليه عبد العزيز بن مروان القضاء، وذلك في ربيع الأول سنة ست وثمانين.
وقال سعيد بن عفير: جمع له القضاء وخلافة الفسطاط.
وقال ابن لهيعة: كان أول من نظر في أموال اليتامى. وضمن عريف كل قوم أموال يتامى تلك القبيلة. وكتب بذلك كتابا وأشهد فيه، فجرى الأمر على ذلك زمان
عبد العزيز بن مروان، بعد تولية عبد الرحمن القضاء بقليل، إلى أن توفي عبد العزيز في جمادى الأولى من السنة. فقام بأمر مصر أخوه عمر بن مروان. فلما قدم عبد الله بن عبد الملك بن مروان أميرا في جمادى الآخرة، أمر أبوه أن يعفى آثار عبد العزيز، لأنه كان ولي العهد بعد عبد الملك. فأقر عبد الرحمن على القضاء والشرطة إلى شهر رمضان، فصرفه عنها وأرسله إلى المرابطة بالإسكندرية، فزاد في عطائه. وكان أول ما قدم أراد أن يعزله، فلم يجد عليه مقالا ولا متعلقا، فأمهله ثم أخرجه إلى المرابطة.
وكان عبد الرحمن في أيام ولايته قد أضر بعبد الرحمن بن عمرو بن قحذم. فلما قدم عبد الله بن عبد الملك، قرب عبد الرحمن بن عمرو، فأغراه بعبد الرحمن بن معاوية. فلم يزل حتى استبدل بجميع عمال عبد العزيز عمه. وكانت ولايته القضاء ستة أشهر. وعاش بعد ذلك إلى أن مات سنة خمس وتسعين.