臧洪身材魁梧，相貌不凡，与常人不同。他被举荐为孝廉，成为一名郎官。当时朝廷挑选三署郎官去补任县长，琅邪人赵昱担任莒长，东莱人刘繇担任下邑长，东海人王朗担任菑丘长，臧洪则担任即丘长。
灵帝末年，天下大乱，臧洪毅然弃官回到家乡。广陵太守张超早就听闻臧洪的才能，邀请他担任功曹。董卓弑杀皇帝，妄图颠覆国家，臧洪得知后，心急如焚，赶忙找到张超，慷慨激昂地说道：“明府您家世代受朝廷的恩泽，您和兄长又分别占据着大郡。如今王室危在旦夕，贼臣董卓还未被铲除，这正是天下忠义之士报答朝廷、效命疆场的时候。现在我们广陵郡完好无损，官吏百姓富足，如果您振臂一呼，发动百姓，能召集两万人马。用这些兵力去讨伐国贼，为天下人带头，这可是大义之举啊！”
张超觉得臧洪说得很有道理，当下便与臧洪一起西行，来到陈留，与兄长张邈商议大事。张邈其实也一直想为朝廷做点什么，兄弟俩在酸枣相聚。张邈见到张超后，问道：“我听说你治理郡守时，政令教化、威严恩德都不是自己决定，而是常常由臧洪来定，这个臧洪到底是什么人？”张超回答：“臧洪的才能、谋略和智慧都远超于我，我十分欣赏他，他可是天下少有的奇士啊！”张邈听了，立刻召见臧洪。一番交谈下来，张邈对臧洪的才华大为惊叹。随后，张邈又把臧洪介绍给兖州刺史刘岱（字公山）、豫州刺史孔伷（字公绪），他们与臧洪都相处得十分融洽。
众人商议后，决定设立坛场，共同盟誓，起兵讨伐董卓。各州郡的长官相互谦让，都不敢担任盟主。最后，大家一致推举臧洪。臧洪大步走上坛场，拿起盘子歃血为盟，大声说道：“汉室遭遇不幸，皇纲失去统绪，贼臣董卓趁机作恶，危害皇帝，虐杀百姓。我们都非常担心国家会灭亡，天下会被颠覆。兖州刺史刘岱、豫州刺史孔伷、陈留太守张邈、东郡太守桥瑁、广陵太守张超等人，纠集义兵，共赴国难。凡是参与我们同盟的人，都要齐心协力，尽到臣子的职责，哪怕牺牲性命，也绝无二心。如果有人违背此盟，就让他性命不保，子孙断绝。皇天在上，后土在下，祖宗神灵，都在见证着我们的誓言！”臧洪言辞慷慨激昂，泪水横流。在场的人，哪怕是普通士兵和杂役，听了他的话也无不热血沸腾，人人都想着要为国家尽忠。（裴松之按：当时参与这个盟誓的只有刘岱等五人。《魏氏春秋》中无端加入刘表等数人，都不符合事实。刘表占据江、汉地区，自己都未曾离开过，怎么可能与臧洪在同一坛场盟誓呢？）
然而，没过多久，各路义军却都犹豫不决，没有人愿意率先出兵。时间一长，军中粮草耗尽，士兵们也纷纷散去，这场讨伐董卓的行动就这样陷入了困境。
张超深知臧洪的为人，坚信他定会来救自己，便派臧洪前往大司马刘虞处商议大事。然而，臧洪在途中遭遇了诸多变故。当时，公孙瓒与刘虞之间爆发了激烈冲突，臧洪行至河间时，又碰上幽、冀二州交兵，道路阻断，他根本无法完成使命。
就在臧洪辗转之际，他遇到了袁绍。袁绍与臧洪一番交谈后，对他的才能和见识大为赞赏，认为他是不可多得的人才，便与他结下深厚情谊，希望能将他招致麾下。恰好此时，青州刺史焦和去世，袁绍便让臧洪暂代青州刺史之职，去安抚那里的百姓。
（《九州春秋》记载，初平年间，焦和担任青州刺史。当时各路英雄纷纷崛起，黄巾军肆虐。焦和一门心思地想与各路诸侯结盟，一同进军京城，却无暇顾及百姓的安危。他率领军队渡过黄河向西进发，结果没多久，袁绍、曹操与董卓的军队在荥阳交战，联军战败。黄巾军趁势壮大，攻破了许多城邑，烧杀抢掠。焦和根本无力抵御，虽然他的军队武器精良，士兵众多，但他既不设置侦察巡逻，又轻信谣言，一听到敌军来袭就吓得逃跑，连与敌军正面交锋的勇气都没有。他甚至想制作陷冰丸沉入河中，阻止敌军渡河，还整天祈祷神灵，希望用兵必定胜利，占卜的蓍草常常摆在面前，巫师也不离左右。他在府中高谈阔论，可一到外面，却把政事搞得一团糟，青州的命运可想而知。最终，青州变得萧条破败，一片荒芜。）
臧洪到青州后，凭借着自己的才能和智慧，大力整顿治安，打击盗匪。仅仅两年时间，青州境内的盗匪便纷纷逃窜，百姓们得以安居乐业。袁绍得知后，对臧洪的能力赞叹不已，将他调任为东郡太守，郡治设在东武阳。
后来，曹操将张超围困在雍丘。张超被困后，心中十分笃定地说：“我只指望臧洪，他一定会来救我。”众人却认为，袁绍与曹操当时关系和睦，臧洪又是袁绍举荐任用的，他肯定不会为了张超而破坏与袁绍的关系，冒着大祸前来救援。张超却坚定地说：“子源是天下间重情重义的人，他绝不会背叛自己的本心，我只怕他被袁绍限制，无法及时赶到罢了。”
臧洪得知张超被困的消息后，心急如焚，光着脚放声大哭。他一边整顿自己的军队，一边向袁绍请求增派兵马，想要前去救援张超。可袁绍却认为曹操势力强大，此时与曹操为敌并不明智，所以始终没有答应臧洪的请求。最终，张超孤立无援，被曹操灭了族。
臧洪因此对袁绍心怀怨恨，与他断绝了往来。袁绍见臧洪竟敢违抗自己，勃然大怒，亲自率军围攻臧洪。这场围城之战持续了一年多，袁绍的军队始终没能攻克臧洪坚守的城池。
袁绍见强攻不行，便想通过劝降来拿下臧洪。他让与臧洪同乡的陈琳写了一封信给臧洪，在信中向臧洪分析利害关系，指责他违背了与袁绍之间的恩情和道义。
臧洪收到信后，心中感慨万千，提笔回信：
与你分别后，我常常在睡梦中都思念着你。我们之间的距离本就不远，却因为志向和选择不同，无法相见，心中的悲伤和遗憾，难以言表！前些日子承蒙你来信，信中详细地讲述了祸福，无论公私都分析得十分透彻。我没有立刻回信，一方面是因为自己学识浅薄、才能愚钝，不知道该如何回应你的诘问；另一方面，你如今追随袁绍，而我与袁绍已然为敌。在这样的情况下，就算我对你坦诚相待，掏心掏肺，也只会被认为是疏远有罪之人，就算话说得再好听，也会被你猜忌。如今我自身都难保，又怎么顾得上别人呢？
以你的才华，饱读诗书，难道会不明白大道理，不理解我的心意吗？然而你却在信中说了那么多，我由此知道你并非真心，只是为了替袁绍挽救局面罢了。如果一定要计较得失，争辩是非，关于是非的言论早已传遍天下，我再去争辩也只会越说越糊涂，不说也不会有什么损失。而且，我实在不忍心做出与故友绝交的事，所以之前一直没有回信，也希望你能明白我的心意，知道我心意已决，不会改变。
如今又收到你的来信，信中引经据典，洋洋洒洒写了六张纸。我就算不想回应，也不能不说话了！
我本是个微不足道的人，只因机缘巧合，才得以治理大州。袁绍对我的恩情深厚，我又怎会愿意与他兵戎相见！每次登上城楼，指挥士兵作战，望着袁绍军队的旗鼓，我都会想起曾经与他的过往，也会想起与故友们的情谊。每当此时，我抚摸着弓箭，泪水就忍不住流满面庞。这是为什么呢？因为我曾以为自己辅佐袁绍，是在做一件正确的事，从未后悔过。袁绍对我的礼遇，远超常人。当初我接受任命时，一心想着成就大事，共同尊奉王室。可谁能想到，后来天子并不满意，本州还遭到侵犯，张超陷入困境，我为救援他出谋划策却毫无结果，不仅失去了忠孝之名，还与袁绍分道扬镳，损害了朋友之间的情分。权衡这两者，在忠孝之名和朋友道义之间，我只能做出选择。所以，我擦干眼泪，与袁绍断绝了关系。