1909年，陈光甫毕业于美国宾夕法尼亚大学，同年回国。此后创办了上海商业储蓄银行（以下简称“上海银行”）、中国旅行社，并与英商太古洋行合资开设宝丰保险公司。他先后担任中华民国中央银行理事、中国银行常务董事、交通银行董事、贸易调整委员会主任和国民政府委员等要职。尤为值得一提的是，他创办的上海银行，堪称是中国近代金融史上的奇迹。
上海银行是陈光甫于1915年创办的，创办之初，仅有资本七八万元，人员7人。陈光甫任总经理，还兼营业、拉存款、跑工厂、搞放款等，晚上还亲自为青年行员开班教书。银行始终秉承“服务社会，顾客至上”的宗旨，特别提出“一元即可开户”的原则，同时还致力于银行的现代化。
在陈光甫努力经营下，短短20年间，上海银行就一跃成为中国第一大私人商业银行，不仅在全国拥有几十个分支机构，而且创造了中国金融史书上的多个“第一”，在当时具有举足轻重的影响力。陈光甫也因此被誉为“中国的摩根”。
陈光甫的成功，不仅得益于上海独特的金融环境，而且得益于其个人的胆略和卓越的专业精神。他的率先办理“一元开户”和“服务上门”、推行货物抵押放款、改革货币流通中陈规、开办国外汇兑等举措，在当时都是相当引人注目的。
抗战期间，他受命赴美，与国民党驻美大使胡适鼎立促成了美国政府针对中国的“桐油贷款”，保证了国民党抗战的资金来源。
抗战结束后，共产党发动了内战，结果是国民党战败。曾经支持国民政府的陈光甫对于国民党十分失望。1949年1月，蒋介石宣布引退，由李宗仁代行总统职权。李宗仁刚一上台，就决定与中共和谈，其中一个举措就是邀请几位在全国具有很大影响力的社会名流，组成“上海人民和平代表团”到北平“敲门”。陈光甫是其首选的对象之一。
但是经过再三的考虑，陈光甫决定还是不参加这个代表团。当别人询问原因时，他表示“赤色分子宣称如果代表团希望参观北平，不准备讨论和平条件的话，他们愿意接待”，这样的言辞他不喜欢。代表团成员章士钊告诉他，中共非常希望他参加代表团。陈光甫则认为：“上海的财政形势如此严重，共产党人无非希望从我身上取得如何使上海经济成功运转的主意。……我的意见是（此时）只有依靠美国的援助……由于赤色分子不断攻击‘美帝国主义’，我无法想像，我如何能与他们谈话……在我与共产党人之间缺乏走到一起并进行讨论的共同基础。”
在代表团动身之后，陈光甫再次在日记中说明了自己不想参加的原因。一方面是受朋友的劝阻，一方面是他对共产党心存疑虑。尽管他看不惯国民党，但他认为自己至少在国民党统治下还享受到了个人自由，即拒绝政府邀请任职的权利。而这种自由能否在共产党统治下获得，陈光甫并不确定。正是基于这种考虑，他最终选择了离开上海，前往香港。
中共占领上海后，上海银行虽然还在营业，但显然情况已经有所不同，其中职工会的权力膨胀让他深感意外。身在香港的陈光甫默默关注着大陆的变化。对于职工会提出的主张，他认为已经超出了其追求福利的范围，涉及到了银行管理问题，而银行的管理是需要丰富的专业知识的。他批评职工会一知半解，自以为是，批评其只知学习毛泽东思想，而对银行业务则只限于学习一些粗浅技能，这样“妨碍主管人之精力也”。
1949年10月，中共专程派人去香港邀请陈光甫等人北上。他以年老体弱，需要在港治病为由婉拒了邀请。11月，中共再次派人邀请，陈光甫还是以同样理由婉拒。此后，因一项上海银行经手的一项汇款业务，使他对新政权心生恐惧，最终使其对北上望而却步。1954年，陈光甫在台湾定居，并于1965年在台北重建上海商业储蓄银行，自任董事长。1976年卒于台北。
陈光甫明智的决定让他避免了一场灾祸。他那些相信中共而留在大陆的同行们，在1952年中共掀起的“城市工商业改造运动”中，不仅企业被强迫收归国有，而且一些人性命也不保。上海更是这场惨烈运动的中心。想必当陈光甫听到这一切时，一定会庆幸自己当年的选择吧。幸哉，陈光甫！