הביטוי מופיע במסכת אבות, שמקבצת אמרות שפר ועצות לחיים של חכמי המשנה. האמירה הזו מיוחסת לרבי עקיבא. כוונת המשפט המקורית ניתנת לפרשנויות. כיוון שסייג הוא גדר, יש שפירשו שהשתיקה שומרת על האדם ומונעת ממנו להגיד דברי שטות. אחרים מסבירים שהשתיקה היא דרך להשיג חוכמה, כיוון שהיא מייצרת הקשבה, ויש גם פירוש אחר, שלפיו השתיקה מונעת מהחכם להתפאר בחוכמתו. את הביטוי הזה כל אחד יכול לפרש בדרך שהוא רוצה. ומה אנחנו חושבים? אנחנו שומרים על זכות השתיקה.