他的母亲裴氏有一次在白天睡觉，梦到一个彩色的旗盖四角悬挂着铃铛，从天而降，其中一个铃铛落入了裴氏的怀中，裴氏心跳得厉害，随后就有了身孕，生下了任昉。

任昉身高七尺五寸，从小聪明灵透，被称赞为悟性如神。四岁能诵诗数十篇，八岁能写文章，自己写出《月仪》，文辞内容都很美。褚彦回曾对任遥说：“听说先生有个好儿子，真为你高兴。正所谓有一百不算多，有一个不算少啊。”任昉从此名声更大。

十二岁时，他叔叔任晷善于识人，见到他叫着他的小名说：“阿堆，你是我们家的千里马啊。”任昉对父母兄弟非常孝敬友善，每次侍奉父母的病，夜间从没有脱衣休息过，一开口就流泪，汤药饮食都要先亲口尝一尝。

宋丹阳尹刘秉征辟他为主簿。当时任昉十六岁，赌气得罪了刘秉的儿子，导致长期得不到提拔。过了很久，才转任奉朝请，随后被推举为兖州秀才，又被任命为太常博士，接着又提升为征北行参军。

在齐末永明二年（484年），卫将军王俭任丹阳尹，接纳任昉为主簿。王俭特别钦佩、重用任昉，认为当时无人可同任昉并论。此后任昉被提升司徒刑狱参军事，进京后任尚书殿中郎，随后又调任为司徒、竟陵王萧子良的记室参军。

当时琅邪王萧融有才气，自以为天下无双，等见到任昉的文章，便恍然若失。任昉后因父亲去世离职。

到了隆昌元年（494年），萧鸾废郁林王萧昭业，将出任侍中、中书监、骠骑大将军、开府仪同三司、扬州刺史、录尚书事，封为宣城郡公，增兵五千，让任昉为他起草就职谢恩的章表。

写成后，萧鸾不喜欢其中有对自己贬损的言辞，对此很是恼火，于是任昉在萧鸾称帝以后的整个建武年间职位始终不能升迁。

任昉很会写文章，尤其擅长写记叙文，才华横溢，当时王公的上书奏文，多请他代写。任昉下笔即成，不用修改。沈约堪称一代词宗，也很推崇他。齐明帝萧鸾去世后，任昉迁任中书郎。永元末年，任司徒右长史。

梁高祖萧衍攻克京都，幕府刚建立，就让任昉担任骠骑记室参军，专门负责起草文书。原因是萧衍和任昉曾在竟陵王官舍西邸相遇，萧衍私下对任昉说：“我要是当了三公，就任命你作记室。”任昉也和萧衍开玩笑说：“我若当了三公，就任命你做骑兵。”意思是说萧衍很会骑射。所以现在让任昉担任骠骑记室参军，是应过去的话。任昉给萧衍的书信中说：“昔日太平清静之时，您曾经对我有预言，本意