]> icculus.org git repositories - icculus/xz.git/blob - src/liblzma/lz/lz_decoder.c
Fix data corruption in LZMA2 decoder.
[icculus/xz.git] / src / liblzma / lz / lz_decoder.c
1 ///////////////////////////////////////////////////////////////////////////////
2 //
3 /// \file       lz_decoder.c
4 /// \brief      LZ out window
5 //
6 //  Copyright (C) 1999-2006 Igor Pavlov
7 //  Copyright (C) 2007 Lasse Collin
8 //
9 //  This library is free software; you can redistribute it and/or
10 //  modify it under the terms of the GNU Lesser General Public
11 //  License as published by the Free Software Foundation; either
12 //  version 2.1 of the License, or (at your option) any later version.
13 //
14 //  This library is distributed in the hope that it will be useful,
15 //  but WITHOUT ANY WARRANTY; without even the implied warranty of
16 //  MERCHANTABILITY or FITNESS FOR A PARTICULAR PURPOSE.  See the GNU
17 //  Lesser General Public License for more details.
18 //
19 ///////////////////////////////////////////////////////////////////////////////
20
21 // liblzma supports multiple LZ77-based filters. The LZ part is shared
22 // between these filters. The LZ code takes care of dictionary handling
23 // and passing the data between filters in the chain. The filter-specific
24 // part decodes from the input buffer to the dictionary.
25
26
27 #include "lz_decoder.h"
28
29
30 struct lzma_coder_s {
31         /// Dictionary (history buffer)
32         lzma_dict dict;
33
34         /// The actual LZ-based decoder e.g. LZMA
35         lzma_lz_decoder lz;
36
37         /// Next filter in the chain, if any. Note that LZMA and LZMA2 are
38         /// only allowed as the last filter, but the long-range filter in
39         /// future can be in the middle of the chain.
40         lzma_next_coder next;
41
42         /// True if the next filter in the chain has returned LZMA_STREAM_END.
43         bool next_finished;
44
45         /// True if the LZ decoder (e.g. LZMA) has detected end of payload
46         /// marker. This may become true before next_finished becomes true.
47         bool this_finished;
48
49         /// Temporary buffer needed when the LZ-based filter is not the last
50         /// filter in the chain. The output of the next filter is first
51         /// decoded into buffer[], which is then used as input for the actual
52         /// LZ-based decoder.
53         struct {
54                 size_t pos;
55                 size_t size;
56                 uint8_t buffer[LZMA_BUFFER_SIZE];
57         } temp;
58 };
59
60
61 static void
62 lz_decoder_reset(lzma_coder *coder)
63 {
64         coder->dict.pos = 0;
65         coder->dict.full = 0;
66         coder->dict.buf[coder->dict.size - 1] = '\0';
67         coder->dict.need_reset = false;
68         return;
69 }
70
71
72 static lzma_ret
73 decode_buffer(lzma_coder *coder,
74                 const uint8_t *restrict in, size_t *restrict in_pos,
75                 size_t in_size, uint8_t *restrict out,
76                 size_t *restrict out_pos, size_t out_size)
77 {
78         while (true) {
79                 // Wrap the dictionary if needed.
80                 if (coder->dict.pos == coder->dict.size)
81                         coder->dict.pos = 0;
82
83                 // Store the current dictionary position. It is needed to know
84                 // where to start copying to the out[] buffer.
85                 const size_t dict_start = coder->dict.pos;
86
87                 // Calculate how much we allow the process() function to
88                 // decode. It must not decode past the end of the dictionary
89                 // buffer, and we don't want it to decode more than is
90                 // actually needed to fill the out[] buffer.
91                 coder->dict.limit = coder->dict.pos + MIN(out_size - *out_pos,
92                                 coder->dict.size - coder->dict.pos);
93
94                 // Call the process() function to do the actual decoding.
95                 const lzma_ret ret = coder->lz.code(
96                                 coder->lz.coder, &coder->dict,
97                                 in, in_pos, in_size);
98
99                 // Copy the decoded data from the dictionary to the out[]
100                 // buffer.
101                 const size_t copy_size = coder->dict.pos - dict_start;
102                 assert(copy_size <= out_size - *out_pos);
103                 memcpy(out + *out_pos, coder->dict.buf + dict_start,
104                                 copy_size);
105                 *out_pos += copy_size;
106
107                 // Reset the dictionary if so requested by process().
108                 if (coder->dict.need_reset)
109                         lz_decoder_reset(coder);
110
111                 // Return if everything got decoded or an error occurred, or
112                 // if there's no more data to decode.
113                 if (ret != LZMA_OK || *out_pos == out_size
114                                 || coder->dict.pos < coder->dict.size)
115                         return ret;
116         }
117 }
118
119
120 static lzma_ret
121 lz_decode(lzma_coder *coder,
122                 lzma_allocator *allocator lzma_attribute((unused)),
123                 const uint8_t *restrict in, size_t *restrict in_pos,
124                 size_t in_size, uint8_t *restrict out,
125                 size_t *restrict out_pos, size_t out_size,
126                 lzma_action action)
127 {
128         if (coder->next.code == NULL)
129                 return decode_buffer(coder, in, in_pos, in_size,
130                                 out, out_pos, out_size);
131
132         // We aren't the last coder in the chain, we need to decode
133         // our input to a temporary buffer.
134         while (*out_pos < out_size) {
135                 // Fill the temporary buffer if it is empty.
136                 if (!coder->next_finished
137                                 && coder->temp.pos == coder->temp.size) {
138                         coder->temp.pos = 0;
139                         coder->temp.size = 0;
140
141                         const lzma_ret ret = coder->next.code(
142                                         coder->next.coder,
143                                         allocator, in, in_pos, in_size,
144                                         coder->temp.buffer, &coder->temp.size,
145                                         LZMA_BUFFER_SIZE, action);
146
147                         if (ret == LZMA_STREAM_END)
148                                 coder->next_finished = true;
149                         else if (ret != LZMA_OK || coder->temp.size == 0)
150                                 return ret;
151                 }
152
153                 if (coder->this_finished) {
154                         if (coder->temp.size != 0)
155                                 return LZMA_DATA_ERROR;
156
157                         if (coder->next_finished)
158                                 return LZMA_STREAM_END;
159
160                         return LZMA_OK;
161                 }
162
163                 const lzma_ret ret = decode_buffer(coder, coder->temp.buffer,
164                                 &coder->temp.pos, coder->temp.size,
165                                 out, out_pos, out_size);
166
167                 if (ret == LZMA_STREAM_END)
168                         coder->this_finished = true;
169                 else if (ret != LZMA_OK)
170                         return ret;
171                 else if (coder->next_finished && *out_pos < out_size)
172                         return LZMA_DATA_ERROR;
173         }
174
175         return LZMA_OK;
176 }
177
178
179 static void
180 lz_decoder_end(lzma_coder *coder, lzma_allocator *allocator)
181 {
182         lzma_next_end(&coder->next, allocator);
183         lzma_free(coder->dict.buf, allocator);
184
185         if (coder->lz.end != NULL)
186                 coder->lz.end(coder->lz.coder, allocator);
187         else
188                 lzma_free(coder->lz.coder, allocator);
189
190         lzma_free(coder, allocator);
191         return;
192 }
193
194
195 extern lzma_ret
196 lzma_lz_decoder_init(lzma_next_coder *next, lzma_allocator *allocator,
197                 const lzma_filter_info *filters,
198                 lzma_ret (*lz_init)(lzma_lz_decoder *lz,
199                         lzma_allocator *allocator, const void *options,
200                         size_t *dict_size))
201 {
202         // Allocate the base structure if it isn't already allocated.
203         if (next->coder == NULL) {
204                 next->coder = lzma_alloc(sizeof(lzma_coder), allocator);
205                 if (next->coder == NULL)
206                         return LZMA_MEM_ERROR;
207
208                 next->code = &lz_decode;
209                 next->end = &lz_decoder_end;
210
211                 next->coder->dict.buf = NULL;
212                 next->coder->dict.size = 0;
213                 next->coder->lz = LZMA_LZ_DECODER_INIT;
214                 next->coder->next = LZMA_NEXT_CODER_INIT;
215         }
216
217         // Allocate and initialize the LZ-based decoder. It will also give
218         // us the dictionary size.
219         size_t dict_size;
220         return_if_error(lz_init(&next->coder->lz, allocator,
221                         filters[0].options, &dict_size));
222
223         // If the dictionary size is very small, increase it to 4096 bytes.
224         // This is to prevent constant wrapping of the dictionary, which
225         // would slow things down. The downside is that since we don't check
226         // separately for the real dictionary size, we may happily accept
227         // corrupt files.
228         if (dict_size < 4096)
229                 dict_size = 4096;
230
231         // Make dictionary size a multipe of 16. Some LZ-based decoders like
232         // LZMA use the lowest bits lzma_dict.pos to know the alignment of the
233         // data. Aligned buffer is also good when memcpying from the
234         // dictionary to the output buffer, since applications are
235         // recommended to give aligned buffers to liblzma.
236         //
237         // Avoid integer overflow.
238         if (dict_size > SIZE_MAX - 15)
239                 return LZMA_MEM_ERROR;
240
241         dict_size = (dict_size + 15) & ~((size_t)(15));
242
243         // Allocate and initialize the dictionary.
244         if (next->coder->dict.size != dict_size) {
245                 lzma_free(next->coder->dict.buf, allocator);
246                 next->coder->dict.buf = lzma_alloc(dict_size, allocator);
247                 if (next->coder->dict.buf == NULL)
248                         return LZMA_MEM_ERROR;
249
250                 next->coder->dict.size = dict_size;
251         }
252
253         lz_decoder_reset(next->coder);
254
255         // Miscellaneous initializations
256         next->coder->next_finished = false;
257         next->coder->this_finished = false;
258         next->coder->temp.pos = 0;
259         next->coder->temp.size = 0;
260
261         // Initialize the next filter in the chain, if any.
262         return lzma_next_filter_init(&next->coder->next, allocator,
263                         filters + 1);
264 }
265
266
267 extern uint64_t
268 lzma_lz_decoder_memusage(size_t dictionary_size)
269 {
270         return sizeof(lzma_coder) + (uint64_t)(dictionary_size);
271 }
272
273
274 extern void
275 lzma_lz_decoder_uncompressed(lzma_coder *coder, lzma_vli uncompressed_size)
276 {
277         coder->lz.set_uncompressed(coder->lz.coder, uncompressed_size);
278 }