黄巷的标志性建筑是"小黄楼"。相传黄璞少时攻读的祖居旧屋，就在小黄楼附近。林则徐师兄、官至江苏巡抚的梁章钜，于清道光年间对黄璞旧居进行全面修葺，并建了西花厅小小黄楼，以及与之配套的旧居东侧园林小筑"东园"。该花厅为双层楼阁，宽9米、深24米，面阔三间，进深五柱，穿斗式木构架，双坡顶；粉墙黛瓦、翘脊飞檐；梁架上描龙绘凤，楹门窗户都用楠木，而且做工讲究，雕刻精巧。

小黄楼位于黄巷中段北侧36号，于2006年公布为全国重点文物保护单位，现作为中国涉台楹联博物馆，存放有乾隆十六年进士刘墉、民国大总统徐世昌、北洋军阀首领冯国璋等人的楹联、牌匾百余块。

史载东晋永嘉之乱，衣冠南渡，中原黄氏入闽聚居此巷，黄巷因此而得名。唐进士、崇文阁校书郎黄璞居此，建楼阁曰黄楼；清雍正年间至乾隆前期为林枝春所居；乾隆后期至嘉庆年间归梁上治、梁上国兄弟，后传梁章钜;后其女梁环姿、女婿赵新居之。

黄巷“小黄楼”东落花厅前的假山东旁有株[芒果王]，此株古芒果树，传为黄璞手植，可称三坊七巷传说资格最老的树，也是福州市区目前己知最大的两株芒果树之一，胸径一点三米，高十七米，冠幅二十一米；芒果树又名檬果、庵泼罗果等，为常绿大乔木，著名热带水果之一，叶聚生枝顶，革质，长圆形，圆锥花序生枝顶，花小、淡黄色，花后结核果，果大，歪卵形，成熟果黄色，果肉细腻，风味独特，营募丰富，且颇有药用功效。

花厅为双层楼阁，面阔三间，进深五柱，穿斗式木构架;梁架上描龙绘凤，楹门窗户都用楠木，做工讲究，雕刻精巧。楼上走廊两侧对向出挑露台，通连假山。楼两侧靠墙是糯米与三合土制成的雪洞，至今保护完好。楼前天井，对面太湖石垒成的假山，小巧鱼池，拱形小石桥跨越其上，桥栏板上刻"知鱼乐处"四字，水清见底，群鱼游弋。东侧一座半边凉亭，垂柱上刻有松鼠、燕雀、蜻蜓、谷穗、玉米等，亭周12个悬钟，各尽其致。庭内修竹数行，花木扶苏，环境清幽，格调高雅，具有江南园林的特色。整座花园四周围墙，自成院落，园内有一株珍贵的古芒果。

楼南面的假山用天然的太湖石筑就，凿池垒台、流水潆洄，曲径盘旋通楼上。假山边的鱼池上"点缀"一座制作精巧的石拱桥，桥栏上刻有"知鱼乐处"四字，寄托着中国文人智者乐水的传统情调。

桥对岸假山内，岩洞曲折，洞壑深幽，峰回路转，蹬道迂回，沿石阶盘旋可登上假山之顶，东侧上有一座木构的半边亭，三面悬空，一面靠墙，宝珠结顶，四檐翘角，亭内的斗拱桥、垂柱上刻有松鼠、燕雀、蜻蜓、谷穗、玉米等动植物题材，亭周装饰有12个小悬钟。凉亭不大，但却占尽黄楼最佳位置，园主人在凉亭上，凭栏坐憩，极目远眺，整个黄楼内的园林佳景尽收眼底。主人和亲友等在内游憩觞饮，以诗会友，闲庭漫步，镇是韵味高雅，幽雅静谧，乐趣无穷。 小黄楼建筑分布紧凑，园内亭台楼阁建筑，具有鲜明的福州地方建筑风格;园内小桥流水，清幽雅静，颇能体现出江南园林的特色，是福州市目前保存最秀美、且小巧玲珑的古式花厅园林。2006年被公布为全国重点文物保护单位。

九十多块清代、民国时期的名人牌匾与六十多幅对联挂满了小黄楼的厅堂、厢房、院门。据介绍，这些展品都缘自台胞洪明章的收藏，他历时十年，走遍福建的山山水水，搜集了八百多块牌匾，涵盖了明、清、民国时期，此次的展品仅是其收藏的冰山一角。

在这些令人眼花缭乱的牌匾中，有清雍正、乾隆、嘉庆、道光、咸丰、同治、光绪、宣统等十个皇帝所颁的圣旨匾，有慈禧太后题词的牌匾，有刘墉(刘罗锅)、纪晓岚、丁葆桢、张之洞、姚启圣等三十多位清朝名臣题词的牌匾，有林则徐、沈葆桢等福州名人题词的涉台牌匾三十多块，有民国袁世凯、黎元洪、冯国璋、徐世昌、蒋介石等五个大总统题词的牌匾，有萨镇冰、李厚基、陈炯明、许世英等五个省长题词的牌匾。