应该从源头上加以控制，大力开发和推广节能降耗的建筑新技术和新工艺，从而减少建筑垃圾的产生。在建筑物的设计过程中，考虑提高建筑物的耐久性，采用尽量少产生建筑垃圾的结构设计，使用环保型建筑材料，考虑建筑物将来进行维修和改造时尽可能减少建筑垃圾产生量，考虑建筑物在将来拆除时的再生问题。
建筑垃圾并不是真正的垃圾，而是放错了地方的“黄金”，建筑垃圾经分拣、剔除或粉碎后，大多可以作为再生资源重新利用如：废钢筋、废铁丝、废电线等金属，经分拣、集中、重新回炉后，可以再加工制造成各种规格的钢材。
垃圾堆放场对地下水的影响则主要是垃圾污染随淋滤液渗入含水层，其次由受垃圾污染的河湖坑塘渗入补给含水层造成深度污染。垃圾渗滤液内不仅含有大量有机污染物，而且还含有大量金属和非金属污染物，水质成分很复杂。一旦饮用这种受污染的水，将会对人体造成很大的危害。
绝大部分建筑垃圾未经任何处理，便被施工单位运往郊外或乡村，露天堆放或填埋，耗用大量的征用土地费、垃圾清运费等建设经费，同时，清运和堆放过程中的遗撒和粉尘、灰砂飞扬等问题又造成了严重的环境污染。