GDPは、2000（平成12）年度には成長率が0.8％と僅かながらプラスに転じたものの、世界的なIT不況、9.11同時多発テロによる米国の景気回復の遅れから、2001年度には-1.8%、2002年度も-0.7%と2年連続のマイナスとなった。2001年4月、聖域なき改革を掲げる小泉内閣が登場、不良債権処理の進展や輸出拡大などにより景気は回復に転じ、2007年10月まで戦後最長の拡大（69ヵ月、いざなみ景気）が続くが、成長率は低く、消費も盛り上がりを欠いた。建設投資は1997年度以降減少が続き、2006年度には51.3兆円とピーク時（1992年度84兆円）の61％まで減少した。

当社の業績は、2000年度には4年ぶりに売上高、営業利益が増加、経常利益も2年連続して増加したものの、2001年度には再び売上総利益、営業利益、経常利益が大きく減少した。こうした事態に対し、2001年度以降、当社は、社員一人ひとりが利益とコストに対する意識を新たにし、利益追求に厳しい姿勢で臨む組織風土への転換が何よりも重要であるとし、①利益追求体質への転換、②価格競争力の強化、③海外土木、リニューアル工事の事業拡大、④全部門での事業コスト圧縮、⑤人事制度の改革、⑥不稼働資産売却による有利子負債削減に取り組んだ。2003年3月、将来像を明確に示し、役職員全員が一丸となれる目標が必要である――との考えから、「優良企業構想」を策定した。一連の経営努力に景気の好転もあり、受注高は2003年度から3年連続で増加、経常利益も2002年度から大幅増を記録して2004年度に471億円とバブル期と遜色ない水準まで回復した。

2001年、当社は創業110年を迎えた。10月18日、神戸市東灘区御影山手の大林家墓所において墓前祭、大阪市生國魂神社礼拝殿において神前祭を執り行い、大阪大林ビルで創業110年記念式典を挙行した。また、創業110年を記念して大阪大林ビルに「大林組歴史館」を開設した。

2003年6月、1943（昭和18）年以来60年にわたって経営トップとして当社を導いてきた大林芳郎会長が名誉会長に就任し、大林剛郎副会長が会長に就任した。新たに就任した大林剛郎会長は、全役職員に向けた就任メッセージで、「私は、社員の皆さんが伸び伸びと働く会社にしたい。そして、今以上に元気のいい、明るい会社にしたい。」と述べ、この理想を実現するための重要なテーマとして、コミュニケーションと教育（人を育てること）を挙げた。

2003年7月19日、大林芳郎名誉会長が死去する。8月に東京・大阪で開かれたお別れの会には、その遺徳を偲ぶ多くの参会者が訪れた。

2005年6月、向笠社長は退任し脇村典夫が社長に就任した。向笠社長は在任期間が4期8年となり、推進してきた「優良企業構想」の実現に向けて一定の成果が挙がりつつあることなどから、これを機に新体制にバトンタッチすることとしたものであった。

この頃は、有名企業が不祥事対応を誤って危機に瀕する事件が続発し、企業のコンプライアンスやコーポレート・ガバナンスのあり方が問い直された時期であった。当社は、2001年4月の「危機管理対策規程」の制定、同年6月の専務会設置なども含めて経営管理体制を強化し、2005年6月には取締役会の改革と執行役員制度の導入によりガバナンスの強化を図った。またITの戦略的活用を進める一方、個人情報保護法の全面施行成立（2005年4月）に伴い、2005年3月には「個人情報保護方針」および「個人情報保護規程」を制定して、ルールの徹底と社内意識の向上を図った。

2006年から2007年にかけて、当社は談合などにより逮捕者を出すに至った。ゼネコン汚職事件から10年余で、再び社会の信頼を損なうこととなった。