好几个个刑警把吕代豪由五股押到木栅分局。就在那里住了一个晚上，第二天问笔录。
“你有参加这次械斗吗？”刑警队长问道。
“是他们要我去的，我没有打，只不过呐喊助威而已，也没有拿刀子杀人。”吕代豪尽量能赖就赖。
“那你为什么要躲呢？”
“因为我看到很多人被捕，心里害怕。”
当然，这些理由他们是不会相信的，谁都可以这么说。最后警方还是把他送到地方法院，检察官立刻将吕代豪收押，送往看守所。
那天晚上，吕代豪整夜睡不着觉。他在想，过去曾听一些老大哥们讲到监狱里面的情形，他们说，只有靠钞票和拳头才能过好日子。因为你若有钱，人人都会奉承你，在监狱里也吃得开；如果你没有钱，立刻会有人欺侮你，把你当“龟儿子”，你必须跟他们硬碰硬。这种地方是个弱肉强食的世界。自己没有钱，但是有拳头，足以自卫。
两个星期的牢，滋味实在不好受，最后交保3000完事。之后的吕代豪在反复的交保、被捕后，他日渐由监狱的常客变成了监狱的主人。
第二次进去是在一九七三年八九月之间，吕代豪回忆说：
有一天晚上，我和飞鹰帮的小唐、小雪在东方舞厅跳舞，之后又去中山北路海鲜楼餐厅吃宵夜。我们叫了一些菜，喝了点酒，因为气氛太好，所以又把侍者叫来，想再多点几道菜。正当我们研究该点些什么菜时，旁边来了一桌外国人。原先在等我们点菜的侍者一看入座的是外国人，便丢下我们跑去招呼他们了。我顿时火冒三丈，借着酒意，大声地把侍者叫回来，并从口袋里掏出一叠100元的钞票，展开成扇状，一面扬，一面对他说：“好热！”
侍者根本不知道我在做什么，只是一脸茫然地望着我。
“他妈的！我们叫菜叫了一半，外国人来了，你就去招呼他们，把我们丢开不管！我们的钱就不是钱，外国人的钱才是钱？”我大吼。
他吓得面色发青，站在一旁不知所措。我借着酒劲，一脚踢向他的肚子，将他踢倒在地，还顺手拿起一张椅子朝他狠狠地甩过去，差点把他的头打开花。我们失去了理智，像疯狗般掀桌子、打人、叫嚣，就连过来劝阻的人也照打不误。我甚至还拾起地上的砖头，把店门口养着一些活鱼、供客人点选的3个水族箱砸得稀烂。
在混乱中，我抽出腰间的小刀，冲到海鲜楼外面，胡乱地比划挥舞着。这时，有人去报了警。十几个警察赶到现场，拔枪叫我们不许动。我们被带往中山分局，因伤害和毁损罪被送到看守所。
在法院，那个过去办我案子的检察官还记得我，对我说：“怎么？才给你交保出去，你又回来啦？”
我无话可答，马上被收押，送到第二工厂去。
这是我第二次进来，自然已经有了点经验，不像以前那么害怕。但因情绪不佳，我在看守所里时常打架闹事，给主管带来不少麻烦。我由第二工厂调到第三工厂，接着又调回第二工厂和第六工厂。这一次交保也不准了，我前次所犯的案和这次所犯的案合在一起出庭，结果被判有期徒刑一年两个月。那是1973年八九月之间的事，父亲和母亲都来看我，也都无计可施。
一九七三年十月一日，吕代豪的案子判下来，随即被送往台北监狱执行。
在狱中，他依然以拳脚功夫而称雄，在台北监狱，跟他同房正好关押了几个被人利用贩毒的菲律宾人，每到晚上，他们就聚在一起读《圣经》和祷告，虽然那时候他根本不知道耶稣是谁，但也跟着念：“我们在天上的父啊！愿都尊你的名为圣。愿你的国降临；愿你的旨意行在地上，如行在天上。我们日用的饮食，今日赐给我们。免我们的债，如同我们免了别人的债。不叫我遇见试探；救我们脱离凶恶。因为国度、权柄、荣耀，全是你的，直到永远。阿门！”
他只是把阅读《圣经》和祷告看成是学习英文的工具，因为他立志要当国际杀手。“为什么我会想当国际杀手？第一个理由是杀手收入丰厚，可以享受豪华的生活；第二个理由是我擅长射击；最主要的是，我的个性本就好勇斗狠，所以自认为天生是块当杀手的好材料。”
而在经过多次换狱后，1975年，他被送到台湾离岛兰屿管训队服刑，也正是在那里，他结识了竹联帮大哥陈启礼。在他的推荐下，也正式加入了竹联帮，隶属总堂。