Vào năm 1913, dân địa phương phát hiện một pho tượng Phật bốn tay ở tư thế đứng, cao 1,7 m, nằm sâu trong lòng đất khoảng 02 mét, tại khu vực dân cư gần chợ Ba Thê. Trước đó, người dân cũng đã tìm thấy hai tấm bia được làm bằng đá bùn có chiều cao khoảng 1,80 m, dày khoảng 0,22m, khắc chữ cổ mà nhiều nhà nghiên cứu cho rằng có thể là chữ viết của dân tộc Phù Nam xưa. Vì vậy, dân quanh vùng khi ấy bèn góp công, góp của dựng lên một ngôi chùa đặt tên là Linh Sơn Tự để tôn thờ tượng Phật và gìn giữ bia cổ.
Tượng Phật bốn tay mang mô típ điêu khắc Bà-la-môn giáo có nguồn gốc từ tượng thờ Bà Chúa Xứ ở núi Sam (Châu Đốc). Thực chất, đây là tượng tạc theo mô típ tượng thần Vishnu có hình rắn naga bảy đầu làm thành tán che phía sau, thường gặp trong các tín ngưỡng chịu ảnh hưởng của Bà-la-môn giáo.
Nguyên thủy, tượng có màu đen của loại đá cổ. Sau khi khai quật lên, người ta cho đắp thêm phần chân để pho tượng có dáng ngồi theo tư thế kiết già. Tượng đặt trong Chánh điện giữa hai tấm bia đá chùa Linh Sơn, tay phải trên nắm lấy xâu chuỗi, tay phải dưới cầm trái châu, tay trái trên cầm ấn A di đà, tay trái dưới nắm cái lĩnh.
Ngày 6 tháng 12 năm 1988, hai bia đá và tượng Phật bốn tay được Bộ Văn Hóa quyết định công nhận là Di tích lịch sử - văn hóa. Ngày 24 tháng 5 năm 2009, pho tượng cùng 2 tâm bia đá cổ đều đã được Trung tâm sách kỷ lục Việt Nam trao danh hiệu lâu năm và lớn nhất nước.