Fix buffer end checks in lzo copy code to work in all cases.
authorReimar Döffinger <Reimar.Doeffinger@gmx.de>
Sat, 27 Jan 2007 14:15:03 +0000 (14:15 +0000)
committerReimar Döffinger <Reimar.Doeffinger@gmx.de>
Sat, 27 Jan 2007 14:15:03 +0000 (14:15 +0000)
Originally committed as revision 7731 to svn://svn.ffmpeg.org/ffmpeg/trunk

libavcodec/lzo.c

index 8fc3ec845faccf0680b8dd786e70734026150f55..eed3b8cf56a51120db5bb47f3eeab366ca7ea49c 100644 (file)
@@ -67,11 +67,11 @@ static inline int get_len(LZOContext *c, int x, int mask) {
 static inline void copy(LZOContext *c, int cnt) {
     register uint8_t *src = c->in;
     register uint8_t *dst = c->out;
-    if (src + cnt > c->in_end) {
+    if (src + cnt > c->in_end || src + cnt < src) {
         cnt = c->in_end - src;
         c->error |= LZO_INPUT_DEPLETED;
     }
-    if (dst + cnt > c->out_end) {
+    if (dst + cnt > c->out_end || dst + cnt < dst) {
         cnt = c->out_end - dst;
         c->error |= LZO_OUTPUT_FULL;
     }
@@ -101,11 +101,11 @@ static inline void copy(LZOContext *c, int cnt) {
 static inline void copy_backptr(LZOContext *c, int back, int cnt) {
     register uint8_t *src = &c->out[-back];
     register uint8_t *dst = c->out;
-    if (src < c->out_start) {
+    if (src < c->out_start || src > dst) {
         c->error |= LZO_INVALID_BACKPTR;
         return;
     }
-    if (dst + cnt > c->out_end) {
+    if (dst + cnt > c->out_end || dst +  cnt < dst) {
         cnt = c->out_end - dst;
         c->error |= LZO_OUTPUT_FULL;
     }