举尚让为副首领兼军师。黄巢为了改变农民军散漫的现象，开始设置官职属僚，尚让、朱温、黄揆、葛从周、孟楷等人都作为大将各领一支队伍。
878年三月，黄巢率农民军挥师北上，一举攻克沂州（临沂市）、濮州（鄄城县、濮阳县、范县一带）。这已经不是第一次攻下这两个地方了，但很难守住，官军一来只好撤走。
朝廷担忧起义军在该地扩大，威胁东都洛阳的安危，下诏免去崔安潜的诸道行营都统职务，急调张自勉为东北面行营招讨使追剿起义军。
黄巢在濮州遭到张自勉的忠武军攻击，张自勉会打仗，起义军屡次战败。当时，北有黄河阻挡，南有忠武军阻截，起义军处境艰难。
黄巢面对困境，只得先暂时低头，他假意答应投降，请唐朝天平节度使张扬代奏朝廷。唐僖宗下诏任命黄巢为右卫将军，但有一个附加条件，就是要求黄巢至郓州解散军队。
没有军队就没有了谈判的筹码，这个道理黄巢肯定是阴白的，他答应投降也只是缓兵之计，解散军队的要求当然只是朝廷的一厢情愿。
朝廷还在等着黄巢的投降呢，黄巢知道北方此时难以立足，大家一商量，决定还是先避开官军锋芒再说，反正就是你弱我就打，你追我就走。
农民军想从滑州（滑县）攻打宋州、汴州，也就是攻打商丘、开封一带，但被招讨使张自勉的军队阻挡。黄巢又转而进攻卫南县（滑县东），接着进攻许昌一带的叶县、阳翟（禹州市）等地，目标还是对准东都洛阳，至少在心理上让朝廷感受到这一点，引起朝廷的心理恐慌。