接下來的時間，劉澤著力開始整編淮南的降軍。義成之戰，收降三萬余人，陰陵之戰收降兩萬余人，最后壽春城破之時，投降加俘虜也有五萬左右，合計起來，總共收編了近十萬的降兵，如何安置這些降兵是擺在劉澤面前的最大問題。
占領了淮南，隨著地盤的延伸，劉澤肯定是需要更多的軍隊，但全盤地不分良莠地將降兵接收下來，也不符合劉澤的治軍思想。劉澤以七萬之眾輕而易舉地打敗了袁術的十五六萬人馬，足以明兵不在多而在精的道理，走精兵路線一直是劉澤所倡導的，所以在淮南降軍中選優汰劣重新整編極為地重要。
劉澤將一些淮南兵之中的骨干中下層軍官保送到東點軍校進行系統地學習，又從東點軍校中抽調一批畢業學員擔任淮南軍的尉級軍官。在降兵之中擇其精銳力量與第四軍團混編，成立第九、第十、第十一步兵師和第六騎兵師，并組成新的第五軍團。
第五軍團的都督由太史慈來擔任，太史慈也升為正將軍銜，副都督則由原第一軍團第二師總兵陳到擔任，陳到也由偏將升為副將。第五軍團的參軍位置，劉澤則是安排了閻象出任，不過劉澤沒有給予他賈詡陳宮平起平坐的品秩，而是實授他為比二千石之職，低了賈詡一級。新成立的第十、第十一步兵師、第六騎兵師劃歸第五軍團所轄，另外原屬第四軍團的第八步師也劃到了第五軍團旗下。第十步兵師總兵由雷薄擔任，第十一步兵師總兵由陳蘭擔任，第六騎兵師總兵由陸勉擔任。新成立的第九步兵師則歸第四軍團所轄，總兵由陳紀擔任。新編四個師的副總兵則都是由原先徐州軍旅都尉擇優升任的。
劉澤親自為雷薄、陳蘭、陳紀、陸勉四位新任總兵授銜，不過他們都沒有獲得總兵的基準軍銜偏將軍銜，而是被授予了低一階的裨將軍銜。此次對新降將士的授銜都采取降一級授銜的原則，從將軍到普通的士兵，均是降一階授以軍銜。這并不是劉澤的歧視，而是基于軍銜制的規定。軍銜制的實施細則中規定，每個職位對應基準的軍銜，但根據軍功可以酌情降一級或升一級軍銜。雷薄等人作為新降之人，自然是沒有軍功在身的，完全符合降一級軍銜的規定，以后他們可以憑借著軍功來提升軍銜和職位。所有降將的軍銜降一級授銜也成為徐州軍的一個原則，一直在后來貫徹執行下去。
野戰軍擇優選用了四萬降兵，其次在第二波的選撥中，二萬多人被錄用為郡縣的城防兵，至于剩下被淘汰掉的四萬降兵，除了一少部分卸甲歸田回鄉之外，大部分被劉澤劃為了屯田兵。在徐州。屯田基本上是民屯，在淮南，劉澤也淮備實施屯田，除了招募流民進行民屯之外，這四萬降兵專門成立了軍屯。一面進行農業生產，一面進行軍事訓練，也算是預備役，將來戰事激烈之事，這些屯田兵也可以利用一二。
淮南原有兩個郡治，一個九江郡，一個廬江郡。袁術稱帝之后，把九江郡改為了淮南尹，大陳國滅亡之后，劉澤撥亂反正，又將淮南尹改回為九江郡，將郡治遷往合肥。廬江郡郡治皖城。連同皖城以南的幾個縣，已為孫策所得，不過廬江郡北部八個縣尚在劉澤手中，加上弋陽、期思兩個原屬汝南的縣，劉澤便以六安為郡治。重置廬江郡。另外，劉澤將原屬九江郡的在淮北的幾個縣和沛國南部，汝南郡的幾個縣合起來，新設立了一個淮北郡，以。壽春作為揚州的州治，雖然不能再統領江東四郡了，但做為淮南的政治經濟中心，其地位還是不可動搖的。
劉澤任命李豐、梁剛、樂就為九江郡、廬江郡、淮北郡的太守，韓胤為治中從事，不過他們也都和陳紀一樣，享受不到太守兩千石的待遇，降為千石。同徐州的太守一樣，他們也只是擁有行政權的太守，軍事權和司法權一樣沒有了，比之漢朝原先的太守，劉澤治下的太守權力受到了極大的限制，徹底地淪為了文官。
九江郡治合肥，下轄合肥、陰陵、西曲陽、壽春、當涂、鐘離、成德、浚遒、東城、淮陵、盱眙十一縣（由于淮河北岸的下蔡等三個縣劃歸到了淮北郡，而巢湖以東的歷陽、全椒、阜陵三縣為孫策所得，所以劉澤便將原屬徐州下邳國的盱眙、淮陵、東城三縣劃入到九江郡的治下）；廬江郡治六安、下轄六安、龍舒、雩婁，灊縣、蓼縣、安豐、安風、陽泉、弋陽、期思十縣；淮北郡治下蔡，下轄下蔡、平阿、義成、龍亢、谷陽、向縣、洨縣、虹縣、公丘、慎縣、富波、汝陰、原鹿十三縣。淮南兩郡原有人口近百萬，而且淮南沒有經過黃巾軍的蹂躪，原本為富庶之地，但這幾年在袁術的折騰之下，民不聊生，人口銳減，劉澤拿下壽春之后的最新人口統計淮南兩郡人口已不足三十萬（不包括被孫策占去的皖城、歷陽等縣人口），如何休養生息，恢復淮南的生產力是擺在劉澤面前的頭等大事。劉澤下令減免了淮南三郡兩年的賦稅并撥付了大量的賑災錢糧，讓百姓恢復生產，將荒蕪的土地集中起來進行屯田，澄清吏治，懲治豪強，淮南的局面也漸漸地為之好轉。
就在這一，劉澤接到通報，稱江東的孫策派使者前來求見劉澤。
劉澤微微納悶，自己和孫策在淮南以巢湖為界，各安其事，互不相犯，這回孫策派使者前來，又有何意圖？吩咐傳進來，劉澤親自接見。
“江東魯肅奉孫將軍之命前來拜見劉使君。”來使一見面便向劉澤深揖一禮，做了一番自我介紹。
魯肅？劉澤心念微微一動，原來是他呀。魯肅是東城人，出身士族，性格豪爽，與周瑜交好，周瑜任居巢令時，兵少糧缺，求助于魯肅，魯肅家里有兩個大糧倉，信手一指，便將其中的一個糧倉三千斛的糧食給了周瑜，其慷慨大氣可見一斑。后來周瑜歸附孫策之時，魯肅便同周瑜一起過江投奔了孫策。歷史上的魯肅，號稱是東吳四英將之二，能文善武，是少有的全才，也許論用兵之道魯肅比不過周瑜陸遜，論治國方略比不過張昭顧雍，但魯肅卻擁有著比其他人更有遠見的大局觀，歷史上他最早提出了三分下鼎足而立的主張，遠見卓識，為了維護孫劉聯盟不遺余力，識大體顧大局，江東諸臣中只有他最清醒地認識到要想對抗曹操，孫劉必須要走聯合的道路。三國之中持同樣見地的，也只有諸葛亮一人而已，可惜魯肅英年早逝，否則三國之局面必將又會是另一番景象。魯肅之后，呂蒙雖有襲奪荊州之功，陸遜獨占火燒彝陵之績，都有一代名將之實，但東吳胸懷下之人卻再也難覓蹤跡，偏安東南一隅，最終走向敗亡之路。
“久仰子敬先生之大名，今日始得相見，真乃三生有幸。子敬先生請上座。”劉澤含笑著以禮相待。
魯肅拱手謝座，道：“劉使君客氣了，在下微末之人，何足掛齒。”
劉澤道：“子敬先生過謙了，誰不知道子敬先生仗義疏財，慷慨大度，今日一見，果然是人如其名，某欽佩之至。不知子敬先生此來何事？”
魯肅道：“孫將軍聽聞劉使君大破壽春，擒殺偽帝袁術，為匡扶漢室立下不世之功，特命魯某前來道賀，呈上一份薄禮，不成敬意，還請劉使君笑納。”著，魯肅便將禮單呈上。
劉澤打開禮單看了一眼，孫策的賀禮倒也是價值不菲，大東珠一斛，白璧十雙，吳絹百匹、珊瑚一對等等，不過劉澤可沒把這些東西放在心上，以劉澤的身家，那可是視錢財為糞土，輕輕地將禮單放下，客客氣氣地道：“多謝伯符美意，劉某就卻之不恭了。不知伯符可安好？”
孫策派人送上厚禮，明顯地有結交劉澤的意思，雙方前段時間都打著討伐袁逆的旗幟，出兵淮南，但真實的意圖雙方卻是心照不宣，不過都是為了爭淮南的這塊地盤而已，雖然雙方都保持了克制，沒有發生兵戎相見的事，但雙方絕對談不上友好，劉澤對孫策虎口奪食的行為很是憤慨，孫策則是為了未能得到合肥而耿耿于懷，這次孫策派魯肅來主動示好，倒令劉澤深感意外。
魯肅道：“多謝劉使君掛懷，孫將軍一切安好。前者劉繇潰逃到豫章，與華歆聯合圖謀江東，已為孫將軍所敗，豫章之地也盡歸江東所有。”
劉澤嘴角掛著吟吟的笑意，示威么？孫策拿下豫章，江東的局面便為之一穩，難道他還想回過頭來再圖淮南嗎？
“子敬此來，不光是為道賀之事吧？”劉澤意味深長地道。