Dương Huyền Cảm là con trai của Dương Tố, ông là người có tướng mạo hùng vĩ, khỏe mạnh. Thuở nhỏ không mấy lanh lợi, nhiều người cho rằng Dương Huyền Cảm ngu độn, chỉ có phụ thân Dương Tố tin rằng con mình không hề ngu dại.
Khi trưởng thành, Dương Huyền Cảm rất ham đọc sách và giỏi cưỡi ngựa bắn cung. Ông từng làm quan địa phương và có thành tích tích tốt, sau đó được bổ nhiệm làm Lễ bộ Thượng thư. Dương Huyền Cảm lại nhờ công lao chiến trận của cha mà được phong làm Trụ quốc, một chức quan thuộc hàng nhị phẩm.
Dương Tố vốn là vị quan mà Tùy Văn Đế rất coi trọng. Ông có công bình định Nam Trần, đánh bại Đột Quyết, sau lại giúp Dương Quảng đoạt ngôi Thái tử, rồi đánh dẹp phản quân của Hán vương Dương Lượng — công lao của Dương Tố rất lớn.
Thế nhưng, Tùy Dạng Đế lại rất đố kỵ tài năng và chiến công của Dương Tố. Có lần ông ta nói với các đại thần rằng: “Dương Tố chẳng qua là chết sớm, nếu không thì sớm muộn gì cũng bị ta tru di.” Lời nói ấy truyền tới tai Dương Huyền Cảm, khiến ông trong lòng vô cùng bất mãn với Dương Quảng.
Dương Huyền Cảm khi ấy quyền thế đã rất lớn. Có lần triều đình chuẩn bị tổ chức một hoạt động ngoại giao, ông đã chuẩn bị nhân cơ hội này để khởi binh, phế bỏ Dương Quảng, dự tính sẽ lập Dương Hạo — con trai Tần vương Dương Tuấn — lên làm hoàng đế. Nhưng khi ấy, thúc phụ của ông là Dương Thận đã hết sức ngăn cản, việc ấy mới không xảy ra.
Bởi vậy, trước khi đại chiến Cao Ly nổ ra, trong lòng Dương Huyền Cảm đã sớm nhen nhóm ý muốn khởi binh tạo phản.
Đến lần thứ hai khi Tùy Dạng Đế thân chinh đánh Cao Ly, Dương Huyền Cảm được giao trọng trách trấn thủ Lê Dương (nay thuộc huyện Tuấn, tỉnh Hà Nam) để giám sát con đường vận chuyển lương thảo. Bởi vì từ thời Tùy Văn Đế khi trước, mùa màng bội thu, thóc lúa dồi dào, nhà Tùy đã lập ra rất nhiều kho lương khổng lồ, trong đó Lê Dương là một kho lương thảo cực kỳ trọng yếu.
Dương Huyền Cảm chịu trách nhiệm chuyển toàn bộ lương thực từ đây ra tiền tuyến. Nhưng vì đã quyết ý làm phản, ông đã cố ý trì hoãn việc vận vận lương thảo, nhằm khiến quân đội của Tùy Dạng Đế đói khát, thua trận nơi biên thùy.
Dương Huyền Cảm bịa chuyện rằng tướng quân Lai Hộ Nhi làm phản. Lấy danh nghĩa “chinh phạt phản tặc Lai Hộ Nhi”, ông triệu tập binh lính từ các quận lân cận. Đồng thời, Dương Huyền Cảm cũng gom luôn tám nghìn dân phu và thủy thủ đang vận chuyển lương thảo. Khi quân lính tập hợp đầy đủ, Dương Huyền Cảm mới nói ra ý định thực sự của mình. Ông tuyên cáo rằng:
“Dương Quảng bạo ngược vô đạo, người chết ở Liêu Đông đã lên đến hàng vạn. Ta, Dương Huyền Cảm, đời đời thấm ân quốc triều, gia thế hiển hách, bản thân ta không phải kẻ cùng đường hết lối. Nhưng ta nguyện đứng ra, dẫn các ngươi vùng lên chống bạo quân, cứu lấy sinh linh trong thiên hạ. Ý các ngươi thế nào?”
Khi ấy, mọi người đã chịu khổ dưới sự bạo ngược của Dương Quảng đã lâu, họ đều đồng ý đi theo Dương Huyền Cảm. Nhờ vậy, ông tập hợp được gần một vạn binh sĩ.
Ngay lúc ấy, một nhân vật phong vân của thời Tùy – Đường đã trợ giúp bên cạnh Dương Huyền Cảm — đó chính là Lý Mật.
Lý Mật xuất thân từ một danh gia vọng tộc. Tằng tổ của ông là Lý Bật — vị Trụ quốc Đại tướng quân thời Tây Ngụy và Bắc Chu, cùng hàng với Độc Cô Tín, Dương Trung và Lý Hổ. Lý Mật kế thừa tước vị của cha là Bồ Sơn công, rồi vào triều làm thị tòng hầu cận Tùy Dạng Đế.
Có một lần, Tùy Dạng Đế nhìn thấy Lý Mật, bèn nói với Vũ Văn Thuật rằng: “Kẻ thanh niên đứng bên trái kia, sắc mặt hơi đen, hắn là ai vậy? Thần thái quan sát của hắn không giống người thường. Đừng để hắn trực ban nữa!”
Sau đó, Vũ Văn Thuật nói với Lý Mật: “Hiền đệ thông minh hơn người, nên lập công danh mà ra làm quan, đừng làm vệ sĩ nữa.”
Thế là Lý Mật viện cớ lâm bệnh rồi từ chức, ông trở về nhà, chuyên tâm đọc sách. Lý Mật rất ham học, có một lần ông cưỡi trâu, treo một quyển Hán thư lên sừng trâu, vừa đi vừa đọc. Khi ấy Dương Tố trông thấy. Dương Tố lấy làm kỳ lạ, bèn phi ngựa đuổi theo. Khi đuổi kịp, ông hỏi: “Ngươi là ai mà hiếu học đến vậy?”
Lý Mật vốn đã biết danh tiếng của Dương Tố nên lập tức xuống trâu để hành lễ. Dương Tố hỏi ông đang đọc gì, Lý Mật đáp là Hạng Vũ truyện. Dương Tố tiếp tục nói chuyện với Lý Mật, càng nói càng thấy hợp ý, thế là đã mời Lý Mật đến nhà, và còn nói với con mình là Dương Huyền Cảm rằng: “Kiến thức và khí độ của Lý Mật, các con đều không sánh kịp.” Từ đó, Dương Huyền Cảm và Lý Mật kết giao thành tri kỷ.
Khi Dương Huyền Cảm khởi binh, Lý Mật tìm đến quy thuận. Dương Huyền Cảm coi Lý Mật như quân sư của mình.
