太元18年(公元393年)，陶渊明时年已经29岁，受江洲刺史王凝之之聘，担任了洲府别驾祭酒。当时的寻阳，机构混乱，吏治腐败，王凝之年老昏庸，不问政事，而且信奉五斗米道。他聘用陶渊明的用意并非看重他的才能，以治理好江洲的事务，而是将他当成一块金字招牌，想利用他的声名以抬高自己的威望，从而博得求贤若渴的美誉。所以，陶渊明名义上虽然是洲府的首席幕僚，实际并未握有实权，更使他不能容忍的是，王凝之还诱迫他参加五斗米道，陶渊明执意不从，所以这次在江洲祭酒的任上，他只勉强度过了一个多月，就自愿离任，结束了他生平第一次短暂的仕宦生涯。
晋安帝隆安元年(公元397年)，庞遵带着荆洲刺史桓玄的亲笔信，来到上京里，礼聘渊明到桓玄军中任职。这次渊明距离初次出仕已有四个年头，这些年来，他可叹自己命运坎坷，遭逢昏朝，奸臣当道，得不到展示才能的机会，而且家里境况也是一日不如一日，自从续弦翟氏进门以后，他那伤痛累累的身心才得到了慰藉，而今他不忍心让翟氏也去重蹈陈氏的覆辙，跟着自己去挨穷受苦。在庞遵的再三劝说下，他带着一线希望，接受了桓玄的礼聘,在寻阳江口乘上庞遵来时所乘的官船，逆着滚滚东流而去的江水而上，前往桓玄的驻地，开始了他人生旅途中新的历程。在荆洲府地江陵，陶渊明接受了桓玄任命他为军府参军，并在这里供职一年多时间。后来由于上京面见堂叔，通过分析桓玄的篡权野心,使他认识到屈身桓玄，有悖他复兴晋室，重正朝纲的愿望，而恰在这时，又传来了老母病逝的噩耗，于是他递上辞呈，迅即回到了家乡上京里，结束了这段仕宦生涯。
元兴三年(公元404年)，建威将军、江洲刺史刘敬宣突然来访，他带来了驻扎建康城北石头城的镇军将军、南徐洲刺史、八洲都督刘裕的亲笔信，礼聘陶渊明到京就职。两天以后，渊明告别了娇妻弱子，登上刘敬宣专门为他派遣的官船,离开上京旧居，开始了他的又一次仕宦生涯。在担任了几个月镇军参军之后，他又被派回到寻阳，担任了刘敬宣的建威参军，成了刘敬宣可以信任和出谋划策的得力助手，时间有2年多。晋安帝义熙元年正月，刘裕在彻底平定桓玄叛乱之后，迎晋安帝回到京都复位，按照惯例，各个地区的军政首脑都必须派遣使者携带表章和礼品前往京都庆贺，刘敬宣将这个任务交给了渊明，同时还交给他另一项重要使命，为自己上表请求解职，以避开政敌刘毅的锋芒。渊明接受这个任务后,日夜兼程，来到京都，呈送了表章贺礼和刘敬宣的奏折，并再一次拜见了堂叔,表露了自己厌弃官场生活，坚持回乡隐居的想法，堂叔陶夔在稍稍思索后对他说：“你再去归隐田园，固然很好，可是你想过没有，你年龄已大，又不善理财、孩子尚小，家境贫困，这往后的生活又该如何去维持？我的看法你不如走一条中隐之路”。何为中隐？指的是做地方上的小官。渊明思索再三，在面见刘裕时提出了自己的要求。晋安帝义熙元年六月，朝廷特使来到寻阳，宣读免去刘敬宣江洲刺史，等待交割的圣旨。接着，特使又向刘敬宣递交了一封刘裕给他的私人信件，要刘敬宣在离任前任命渊明为彭泽县令。一个月后，渊明辞别家人,来到了彭泽县的任上，做了八十多天的县令，后来由于督邮发难，愤然挂印彭泽，离开了官场，真正走上了回乡隐居之路。
彭泽是个在藉人口只有2万多人的小县，这里水网稠密，沼泽湖泊星罗棋布，气温冷热适中，土地肥沃，非常适宜农作物的生长。因此物产丰富,各种资源繁多，人民的生活也较为安定。陶渊明来到彭泽任职，开始心里是很满意的，因为这里离家不远，只要从彭泽乘船，仅二天时间就可抵达上京里附近的内河渡口；按照当时一条不成文的规定，每个县令可以拥有三百亩公田收支的支配权，收入也归县令所有，足以维持家里生活。同时,凭他的才能，治理一个小小彭泽县，他也是踌躇满志,信心十足的。他憧憬自己到了彭泽县，一定要体恤民情，爱护人民，尽自己的所能，使百姓能够安居乐业，生活幸福。
当时彭泽县，自从孝武帝太元年间起，由于实行了每个成年男丁收租米五石的口税制以后，出现了两种现象，一是一般农民的负担大大增加，农民们不愿意更多的拥有土地。一些荒芜的山林沼泽地也无人愿意开垦，甚至有的农户还将一些贫瘠的土地丢弃，抛荒不种。二是隐匿人口情况严重，出现了在藉人口远远少于实际人口的怪现象，导致了政府税收减少，官府负担转嫁到了普通农民身上。面临这种情况，陶渊明上任后所要做的第一件事就是清查户口。
清查户口在彭泽县已有十几年没有开展过了，原因是前几任的地方官员，有的不深入民间探访民情，对其中内情不甚了解,故而熟视无睹，听之任之。有的是看出了问题，也抓了，但由于种种干扰而中途夭折。其主要干扰者有两种人，一是财大气粗的大地主，因为有钱，就用钱贿赂清查的衙役，帮他们隐瞒人口；二是当地的土豪劣绅，或与执法人员胡搅蛮缠，使其无法清查，或利用家族中有人在洲衙做官，以势压人，使清查人员不敢进行正常工作，只是象征性的登记完事。例如城北的何泰，有良田数百顷，家中成年奴仆有几百人。因为何泰的弟弟何隆长期担任寻阳郡的郡丞，是太守的副职，所以历任县令都对何家格外优待，只登记在藉男丁20名，与实际数字悬殊很大。所以其它大地主也效而仿之，清查人口工作只能半途而废。而陶渊明在这次清查人口工作中，却是“擒贼先擒王”，敢啃硬骨头，第一下子就从何家开刀，他通过突然拜会何泰,带领衙役进何府，当场责成何泰管家拿出花名册，逐一核对，共查出何泰家隐瞒成年男丁200余名，一举震动了全县，仅半个月的时间就清查出被财主豪绅隐瞒的成年男丁3000多名。初战告捷之后，他又布告周知各地，宣布从次年开始，每个成年男丁所缴纳的税米由原来的五石减少为三石，县民齐声欢呼，纷纷赞扬新县令的英明和爱民如子的美德。
而陶渊明就因为这次清查户口，得罪了寻阳郡丞何隆。何隆为出胸中一口恶气，便设计利用督邮刘云的手去惩戒一下陶渊明，督邮是郡中的属官，负责具体监察和考核郡中所属各县官员的政绩，对各县官员的升降任免有着直接的影响。寻阳郡的督邮刘云，以凶狠贪婪闻名远近，每年冬夏二季，他都要巡视各县，称作行部，而每次行部，都是满载而归。刘云受何隆之命，依计来到彭泽，他事先没有行文通知，而是突然闯进县衙，以便给陶渊明一个措手不及。恰在这时，陶渊明正和几个幕僚喝酒闲聊，听说何云驾到，立即撤席出迎，不料刘云却怒气冲冲，不仅不还礼,还喝斥道：“本官行部来到贵县，你等衣冠不整，形态懒散，是何道理？目前国家正是多事之秋，你等不思国恩，励精图治，为民造福，反而白日聚众豪饮，不理政事，朝庭要你等滥官污吏何用？”说罢扬长而去，给了陶渊明一个下马威。刘云走后，渊明问众“督邮今日发怒，不知究竟为了何事？”一幕僚答：“督邮一向贪婪，照卑职看来，他不过是借题发挥，索要贿赂罢了”。渊明听后愤然道：“我岂能为五斗米折腰，向乡里小人！索要贿赂，他是找错人了”。
恰在这天的晚上,武昌来人报丧。陶渊明的妹妹不幸突发疾病去世，渊明心中顿时升起了一种莫名的悲哀。他回想白天所发生的一切，以及官场尔虞我诈的黑暗现状，又进而联想多年以来自己所追求的归隐田园的愿望始终未能真正实现，不由得使他最终下定了退出官场、归隐田园的决心，遂即吩咐陶兴到城外找来船只，自己收拾了一下行李，又独自一人踏进了县衙大门，望着“明镜高悬”的金匾，冷笑了几声，接着将大印放在案桌上,大步走出了县衙，向着江边码头走去，乘着溶溶月色，与陶兴乘船回到了上京里。
池洲地处长江南岸，自古是“千载诗人地，莲花佛国乡”。陶渊明曾两次驻足这里，留下了钱溪赋诗和东流艺菊的千古佳话。