一方面又要维持本埠的经济、民生，确保社会秩序安定。名目浩繁的经费需求，潮水般地压向军政府。仅军饷一项，就每日要付三万元现洋。那时候，陈其美和刘庆斌于各国驻沪领事团还没有建立什么关系，上海海关的日常关税以及大清银行滞留在沪的巨额资本银，均被强行截扣于英美租界，军政府一时难以追缴征用，致使财政来源几近匮竭，开支却与日俱增，资金的窘迫愈益严峻。
好在上海各界热切拥戴共和，市民自发的捐款助饷，源源不绝；众多工商士绅也争相慷慨解囊，不遗余力，一定程度纾缓了军政府的财政危机。但刘庆斌知道这不是长久之计，于是向陈其美建议，必须设法聚合民间资金，创办一家由军政府担保并委派监理的股份制华商银行，以发行短期“军用钞票”的方式来流通泉货，周转头寸，应对当前之急需”。陈其美批准了刘庆斌的建议，这家银行由民生公司筹备部分资金，就定名为“民生银行”。随即，军政府在报端披露了筹立民生银行的计划，全文公布该银行的《招募股本简章》。
不久后，民生银行在上海南市开业。当天，冠名为“中华民国军用钞票”的纸币正式面世，进入金融流通，可以在上海的所有华商银行间自由兑付。军钞共有伍角、壹元、伍元、拾元四种面额，分为海蓝、赤褐、橙黄、石青四个不同币色，以示区别。军钞的正面，除了印有“黄帝纪元四千六百零九年九月吉日(发行)”和“上海通用，只认票不认人”的字样，还盖着“沪军都督”与“财政总长”两方鲜红大印。
现在，上海市面上突然发现有伪造的“军钞”，这不免引起人们的惊疑和恐慌，各种流言开始不胫而走，军钞的信用动摇，流通顿陷阻遏。
刘庆斌想了想，对陈其美说道：“大哥，此事您就不用管了，您把它交给我吧！就让我和李市长负责解决这件事情，您好好养病。”
看着刘庆斌坚毅的神色，陈其美什么也没有说，他只是重重地点了点头。陈其美清楚，只要只要他的五弟在，就没有解决不了的问题。