荷兰汉学家高罗佩的名著《大唐狄公案》，描述狄仁杰在州县及京都为官断案，与民除害的传奇经历。此书的影响很大，把狄仁杰描写为断案如神的神探。狄仁杰因此被称为古代中国的福尔摩斯。电视剧连续剧《神探狄仁杰》里，狄仁杰更是妇孺皆知的破案高手。狄仁杰真的是神探吗？他之所以被传为神探，主要有以下几点原因。
首先，早年的狄仁杰是神童。因为他早年超众的才华，神奇的表现，以后做了司法官员，负责破案断狱，也就带有神奇的色彩了。有两个著名的故事，为他的神奇增加了色彩。一是小小年纪就敢于拒绝接受前来破案的县吏的查问。狄仁杰还是儿童时，有一次，狄家门人被害，县吏来调查，众人都去接受查问，只有仁杰始终在屋内读书，没有理会外面的吵闹，也就没有出去回话。县吏来责问他，他却说：“书卷之中，圣人备在。我尚不能与之接对，怎么会有空去理会你们这些俗吏？你们又怎么能责备我？”登时把县吏噎得说不出话来。二是进京赶考途中以高超的医术治疗了一例疑难病症。有记载说，狄仁杰颇精医药，尤其擅长针术。显庆年间，他进京赶考，路过华州，遇到一富家为少年儿子的疑难病症在路上悬赏。狄仁杰通过针灸，当场把病治好了。神奇之极。
其次，狄仁杰有着丰富的地方和中央工作经历，基本和司法诉讼有关。上元二年（675年），因为在并州法曹任上的出色表现，狄仁杰调至大理寺，担任大理丞，开始了他的京官生涯。十几年的法曹经历，让狄仁杰很快从六个寺丞中脱颖而出。大理寺积压旧案非常多，仁杰上任以来，不避繁重，年内便审结一万七千人，决狱允当，并无一人称冤申诉。不过，解决这些案件，需要的更多是公正和勤政，而并非各种破案技巧。
在大理丞任上，狄仁杰办得最出名的案件，是仪凤三年（678年）“权善才误砍昭陵柏树案”。这年九月，守卫唐太宗昭陵的左威卫大将军权善才误砍了昭陵上的柏树，被人告发。高宗大为震惊，悲泣不自胜，便将善才和同时守卫的左监门卫中郎将范怀义下狱，命大理寺严加惩处。大理寺奏称依律法应将其免官除名。高宗要求将善才等处死。大理寺上下，只有狄仁杰执奏不可，认为权、范二人罪不至死。高宗脸色一沉，说：“善才砍我父皇陵上柏木，陷我于不孝。我知道卿是好法官，但这次却一定要将此二人处死不可。”大理卿张文瓘赶紧示意仁杰，让他退下，不要硬撑。仁杰不为所动，引经据典，断然反对，他说：“今日陛下因为昭陵的一棵柏木杀此二人，千载之后，人们又会如何评论陛下呢？这才是臣不敢奉诏的原因。”结果是高宗只得免去权、范二人的死罪，依准大理寺所奏。也就是说，在正史中，对狄仁杰断案如何神奇，并没有正面描述。就如权善才一案中，史家称颂的并非狄仁杰的断案能力，而是他执法公允，能够直言进谏。
