try to eliminate MAX_MAP_PLANES limits
[divverent/netradiant.git] / tools / quake3 / q3map2 / writebsp.c
1 /* -------------------------------------------------------------------------------
2
3 Copyright (C) 1999-2007 id Software, Inc. and contributors.
4 For a list of contributors, see the accompanying CONTRIBUTORS file.
5
6 This file is part of GtkRadiant.
7
8 GtkRadiant is free software; you can redistribute it and/or modify
9 it under the terms of the GNU General Public License as published by
10 the Free Software Foundation; either version 2 of the License, or
11 (at your option) any later version.
12
13 GtkRadiant is distributed in the hope that it will be useful,
14 but WITHOUT ANY WARRANTY; without even the implied warranty of
15 MERCHANTABILITY or FITNESS FOR A PARTICULAR PURPOSE.  See the
16 GNU General Public License for more details.
17
18 You should have received a copy of the GNU General Public License
19 along with GtkRadiant; if not, write to the Free Software
20 Foundation, Inc., 51 Franklin St, Fifth Floor, Boston, MA  02110-1301  USA
21
22 ----------------------------------------------------------------------------------
23
24 This code has been altered significantly from its original form, to support
25 several games based on the Quake III Arena engine, in the form of "Q3Map2."
26
27 ------------------------------------------------------------------------------- */
28
29
30
31 /* marker */
32 #define WRITEBSP_C
33
34
35
36 /* dependencies */
37 #include "q3map2.h"
38
39
40
41 /*
42 EmitShader()
43 emits a bsp shader entry
44 */
45
46 int     EmitShader( const char *shader, int *contentFlags, int *surfaceFlags )
47 {
48         int                             i;
49         shaderInfo_t    *si;
50         
51         
52         /* handle special cases */
53         if( shader == NULL )
54                 shader = "noshader";
55         
56         /* try to find an existing shader */
57         for( i = 0; i < numBSPShaders; i++ )
58         {
59                 /* ydnar: handle custom surface/content flags */
60                 if( surfaceFlags != NULL && bspShaders[ i ].surfaceFlags != *surfaceFlags )
61                         continue;
62                 if( contentFlags != NULL && bspShaders[ i ].contentFlags != *contentFlags )
63                         continue;
64                 
65                 /* compare name */
66                 if( !Q_stricmp( shader, bspShaders[ i ].shader ) )
67                         return i;
68         }
69
70         // i == numBSPShaders
71         
72         /* get shaderinfo */
73         si = ShaderInfoForShader( shader );
74         
75         /* emit a new shader */
76         AUTOEXPAND_BY_REALLOC_BSP(Shaders, 1024);
77
78         numBSPShaders++;
79         strcpy( bspShaders[ i ].shader, shader );
80         bspShaders[ i ].surfaceFlags = si->surfaceFlags;
81         bspShaders[ i ].contentFlags = si->contentFlags;
82         
83         /* handle custom content/surface flags */
84         if( surfaceFlags != NULL )
85                 bspShaders[ i ].surfaceFlags = *surfaceFlags;
86         if( contentFlags != NULL )
87                 bspShaders[ i ].contentFlags = *contentFlags;
88         
89         /* recursively emit any damage shaders */
90         if( si->damageShader != NULL && si->damageShader[ 0 ] != '\0' )
91         {
92                 Sys_FPrintf( SYS_VRB, "Shader %s has damage shader %s\n", si->shader, si->damageShader );
93                 EmitShader( si->damageShader, NULL, NULL );
94         }
95         
96         /* return it */
97         return i;
98 }
99
100
101
102 /*
103 EmitPlanes()
104 there is no oportunity to discard planes, because all of the original
105 brushes will be saved in the map
106 */
107
108 void EmitPlanes( void )
109 {
110         int                     i;
111         bspPlane_t      *bp;
112         plane_t         *mp;
113         
114         
115         /* walk plane list */
116         mp = mapplanes;
117         for( i = 0; i < nummapplanes; i++, mp++ )
118         {
119                 AUTOEXPAND_BY_REALLOC_BSP(Planes, 1024);
120                 bp = &bspPlanes[ numBSPPlanes ];
121                 VectorCopy( mp->normal, bp->normal );
122                 bp->dist = mp->dist;
123                 numBSPPlanes++;
124         }
125         
126         /* emit some statistics */
127         Sys_FPrintf( SYS_VRB, "%9d BSP planes\n", numBSPPlanes );
128 }
129
130
131
132 /*
133 EmitLeaf()
134 emits a leafnode to the bsp file
135 */
136
137 void EmitLeaf( node_t *node )
138 {
139         bspLeaf_t               *leaf_p;
140         brush_t                 *b;
141         drawSurfRef_t   *dsr;
142
143         
144         /* check limits */
145         if( numBSPLeafs >= MAX_MAP_LEAFS )
146                 Error( "MAX_MAP_LEAFS" );
147
148         leaf_p = &bspLeafs[numBSPLeafs];
149         numBSPLeafs++;
150
151         leaf_p->cluster = node->cluster;
152         leaf_p->area = node->area;
153
154         /* emit bounding box */
155         VectorCopy( node->mins, leaf_p->mins );
156         VectorCopy( node->maxs, leaf_p->maxs );
157         
158         /* emit leaf brushes */
159         leaf_p->firstBSPLeafBrush = numBSPLeafBrushes;
160         for( b = node->brushlist; b; b = b->next )
161         {
162                 /* something is corrupting brushes */
163                 if( (size_t) b < 256 )
164                 {
165                         Sys_Printf( "WARNING: Node brush list corrupted (0x%08X)\n", b );
166                         break;
167                 }
168                 //%     if( b->guard != 0xDEADBEEF )
169                 //%             Sys_Printf( "Brush %6d: 0x%08X Guard: 0x%08X Next: 0x%08X Original: 0x%08X Sides: %d\n", b->brushNum, b, b, b->next, b->original, b->numsides );
170                 
171                 AUTOEXPAND_BY_REALLOC_BSP(LeafBrushes, 1024);
172                 bspLeafBrushes[ numBSPLeafBrushes ] = b->original->outputNum;
173                 numBSPLeafBrushes++;
174         }
175         
176         leaf_p->numBSPLeafBrushes = numBSPLeafBrushes - leaf_p->firstBSPLeafBrush;
177         
178         /* emit leaf surfaces */
179         if( node->opaque )
180                 return;
181         
182         /* add the drawSurfRef_t drawsurfs */
183         leaf_p->firstBSPLeafSurface = numBSPLeafSurfaces;
184         for ( dsr = node->drawSurfReferences; dsr; dsr = dsr->nextRef )
185         {
186                 AUTOEXPAND_BY_REALLOC_BSP(LeafSurfaces, 1024);
187                 bspLeafSurfaces[ numBSPLeafSurfaces ] = dsr->outputNum;
188                 numBSPLeafSurfaces++;                   
189         }
190         
191         leaf_p->numBSPLeafSurfaces = numBSPLeafSurfaces - leaf_p->firstBSPLeafSurface;
192 }
193
194
195 /*
196 EmitDrawNode_r()
197 recursively emit the bsp nodes
198 */
199
200 int EmitDrawNode_r( node_t *node )
201 {
202         bspNode_t       *n;
203         int                     i, n0;
204         
205         
206         /* check for leafnode */
207         if( node->planenum == PLANENUM_LEAF )
208         {
209                 EmitLeaf( node );
210                 return -numBSPLeafs;
211         }
212         
213         /* emit a node */
214         AUTOEXPAND_BY_REALLOC_BSP(Nodes, 1024);
215         n0 = numBSPNodes;
216         n = &bspNodes[ n0 ];
217         numBSPNodes++;
218         
219         VectorCopy (node->mins, n->mins);
220         VectorCopy (node->maxs, n->maxs);
221
222         if (node->planenum & 1)
223                 Error ("WriteDrawNodes_r: odd planenum");
224         n->planeNum = node->planenum;
225
226         //
227         // recursively output the other nodes
228         //      
229         for (i=0 ; i<2 ; i++)
230         {
231                 if (node->children[i]->planenum == PLANENUM_LEAF)
232                 {
233                         n->children[i] = -(numBSPLeafs + 1);
234                         EmitLeaf (node->children[i]);
235                 }
236                 else
237                 {
238                         n->children[i] = numBSPNodes;   
239                         EmitDrawNode_r (node->children[i]);
240                         // n may have become invalid here, so...
241                         n = &bspNodes[ n0 ];
242                 }
243         }
244
245         return n - bspNodes;
246 }
247
248
249
250 /*
251 ============
252 SetModelNumbers
253 ============
254 */
255 void SetModelNumbers (void)
256 {
257         int             i;
258         int             models;
259         char    value[10];
260
261         models = 1;
262         for ( i=1 ; i<numEntities ; i++ ) {
263                 if ( entities[i].brushes || entities[i].patches ) {
264                         sprintf ( value, "*%i", models );
265                         models++;
266                         SetKeyValue (&entities[i], "model", value);
267                 }
268         }
269
270 }
271
272
273
274
275 /*
276 SetLightStyles()
277 sets style keys for entity lights
278 */
279
280 void SetLightStyles( void )
281 {
282         int                     i, j, style, numStyles;
283         qboolean        keepLights;
284         const char      *t;
285         entity_t        *e;
286         epair_t         *ep, *next;
287         char            value[ 10 ];
288         char            lightTargets[ MAX_SWITCHED_LIGHTS ][ 64 ];
289         int                     lightStyles[ MAX_SWITCHED_LIGHTS ];
290         
291         
292         /* ydnar: determine if we keep lights in the bsp */
293         t = ValueForKey( &entities[ 0 ], "_keepLights" );
294         keepLights = (t[ 0 ] == '1') ? qtrue : qfalse;
295         
296         /* any light that is controlled (has a targetname) must have a unique style number generated for it */
297         numStyles = 0;
298         for( i = 1; i < numEntities; i++ )
299         {
300                 e = &entities[ i ];
301
302                 t = ValueForKey( e, "classname" );
303                 if( Q_strncasecmp( t, "light", 5 ) )
304                         continue;
305                 t = ValueForKey( e, "targetname" );
306                 if( t[ 0 ] == '\0' )
307                 {
308                         /* ydnar: strip the light from the BSP file */
309                         if( keepLights == qfalse )
310                         {
311                                 ep = e->epairs;
312                                 while( ep != NULL )
313                                 {
314                                         next = ep->next;
315                                         free( ep->key );
316                                         free( ep->value );
317                                         free( ep );
318                                         ep = next;
319                                 }
320                                 e->epairs = NULL;
321                                 numStrippedLights++;
322                         }
323                         
324                         /* next light */
325                         continue;
326                 }
327                 
328                 /* get existing style */
329                 style = IntForKey( e, "style" );
330                 if( style < LS_NORMAL || style > LS_NONE )
331                         Error( "Invalid lightstyle (%d) on entity %d", style, i );
332                 
333                 /* find this targetname */
334                 for( j = 0; j < numStyles; j++ )
335                         if( lightStyles[ j ] == style && !strcmp( lightTargets[ j ], t ) )
336                                 break;
337                 
338                 /* add a new style */
339                 if( j >= numStyles )
340                 {
341                         if( numStyles == MAX_SWITCHED_LIGHTS )
342                                 Error( "MAX_SWITCHED_LIGHTS (%d) exceeded, reduce the number of lights with targetnames", MAX_SWITCHED_LIGHTS );
343                         strcpy( lightTargets[ j ], t );
344                         lightStyles[ j ] = style;
345                         numStyles++;
346                 }
347                 
348                 /* set explicit style */
349                 sprintf( value, "%d", 32 + j );
350                 SetKeyValue( e, "style", value );
351                 
352                 /* set old style */
353                 if( style != LS_NORMAL )
354                 {
355                         sprintf( value, "%d", style );
356                         SetKeyValue( e, "switch_style", value );
357                 }
358         }
359         
360         /* emit some statistics */
361         Sys_FPrintf( SYS_VRB, "%9d light entities stripped\n", numStrippedLights );
362 }
363
364
365
366 /*
367 BeginBSPFile()
368 starts a new bsp file
369 */
370
371 void BeginBSPFile( void )
372 {
373         /* these values may actually be initialized if the file existed when loaded, so clear them explicitly */
374         numBSPModels = 0;
375         numBSPNodes = 0;
376         numBSPBrushSides = 0;
377         numBSPLeafSurfaces = 0;
378         numBSPLeafBrushes = 0;
379         
380         /* leave leaf 0 as an error, because leafs are referenced as negative number nodes */
381         numBSPLeafs = 1;
382         
383         
384         /* ydnar: gs mods: set the first 6 drawindexes to 0 1 2 2 1 3 for triangles and quads */
385         numBSPDrawIndexes = 6;
386         bspDrawIndexes[ 0 ] = 0;
387         bspDrawIndexes[ 1 ] = 1;
388         bspDrawIndexes[ 2 ] = 2;
389         bspDrawIndexes[ 3 ] = 0;
390         bspDrawIndexes[ 4 ] = 2;
391         bspDrawIndexes[ 5 ] = 3;
392 }
393
394
395
396 /*
397 EndBSPFile()
398 finishes a new bsp and writes to disk
399 */
400
401 void EndBSPFile( void )
402 {
403         char    path[ 1024 ];
404         
405
406         Sys_FPrintf( SYS_VRB, "--- EndBSPFile ---\n" );
407
408         EmitPlanes();
409         
410         numBSPEntities = numEntities;
411         UnparseEntities();
412         
413         /* write the surface extra file */
414         WriteSurfaceExtraFile( source );
415         
416         /* write the bsp */
417         sprintf( path, "%s.bsp", source );
418         Sys_Printf( "Writing %s\n", path );
419         WriteBSPFile( path );
420 }
421
422
423
424 /*
425 EmitBrushes()
426 writes the brush list to the bsp
427 */
428
429 void EmitBrushes( brush_t *brushes, int *firstBrush, int *numBrushes )
430 {
431         int                             j;
432         brush_t                 *b;
433         bspBrush_t              *db;
434         bspBrushSide_t  *cp;
435         
436         
437         /* set initial brush */
438         if( firstBrush != NULL )
439                 *firstBrush = numBSPBrushes;
440         if( numBrushes != NULL )
441                 *numBrushes = 0;
442         
443         /* walk list of brushes */
444         for( b = brushes; b != NULL; b = b->next )
445         {
446                 /* check limits */
447                 AUTOEXPAND_BY_REALLOC_BSP(Brushes, 1024);
448                 
449                 /* get bsp brush */
450                 b->outputNum = numBSPBrushes;
451                 db = &bspBrushes[ numBSPBrushes ];
452                 numBSPBrushes++;
453                 if( numBrushes != NULL )
454                         (*numBrushes)++;
455                 
456                 db->shaderNum = EmitShader( b->contentShader->shader, &b->contentShader->contentFlags, &b->contentShader->surfaceFlags );
457                 db->firstSide = numBSPBrushSides;
458                 
459                 /* walk sides */
460                 db->numSides = 0;
461                 for( j = 0; j < b->numsides; j++ )
462                 {
463                         /* set output number to bogus initially */
464                         b->sides[ j ].outputNum = -1;
465                         
466                         /* check count */
467                         AUTOEXPAND_BY_REALLOC_BSP(BrushSides, 1024);
468                         
469                         /* emit side */
470                         b->sides[ j ].outputNum = numBSPBrushSides;
471                         cp = &bspBrushSides[ numBSPBrushSides ];
472                         db->numSides++;
473                         numBSPBrushSides++;
474                         cp->planeNum = b->sides[ j ].planenum;
475                         
476                         /* emit shader */
477                         if( b->sides[ j ].shaderInfo )
478                                 cp->shaderNum = EmitShader( b->sides[ j ].shaderInfo->shader, &b->sides[ j ].shaderInfo->contentFlags, &b->sides[ j ].shaderInfo->surfaceFlags );
479                         else
480                                 cp->shaderNum = EmitShader( NULL, NULL, NULL );
481                 }
482         }
483 }
484
485
486
487 /*
488 EmitFogs() - ydnar
489 turns map fogs into bsp fogs
490 */
491
492 void EmitFogs( void )
493 {
494         int                     i, j;
495         
496         
497         /* setup */
498         numBSPFogs = numMapFogs;
499         
500         /* walk list */
501         for( i = 0; i < numMapFogs; i++ )
502         {
503                 /* set shader */
504                 strcpy( bspFogs[ i ].shader, mapFogs[ i ].si->shader );
505                 
506                 /* global fog doesn't have an associated brush */
507                 if( mapFogs[ i ].brush == NULL )
508                 {
509                         bspFogs[ i ].brushNum = -1;
510                         bspFogs[ i ].visibleSide = -1;
511                 }
512                 else
513                 {
514                         /* set brush */
515                         bspFogs[ i ].brushNum = mapFogs[ i ].brush->outputNum;
516                         
517                         /* try to use forced visible side */
518                         if( mapFogs[ i ].visibleSide >= 0 )
519                         {
520                                 bspFogs[ i ].visibleSide = mapFogs[ i ].visibleSide;
521                                 continue;
522                         }
523                         
524                         /* find visible side */
525                         for( j = 0; j < 6; j++ )
526                         {
527                                 if( mapFogs[ i ].brush->sides[ j ].visibleHull != NULL )
528                                 {
529                                         Sys_Printf( "Fog %d has visible side %d\n", i, j );
530                                         bspFogs[ i ].visibleSide = j;
531                                         break;
532                                 }
533                         }
534                 }
535         }
536 }
537
538
539
540 /*
541 BeginModel()
542 sets up a new brush model
543 */
544
545 void BeginModel( void )
546 {
547         bspModel_t      *mod;
548         brush_t         *b;
549         entity_t        *e;
550         vec3_t          mins, maxs;
551         vec3_t          lgMins, lgMaxs;         /* ydnar: lightgrid mins/maxs */
552         parseMesh_t     *p;
553         int                     i;
554         
555         
556         /* test limits */
557         AUTOEXPAND_BY_REALLOC_BSP(Models, 256);
558         
559         /* get model and entity */
560         mod = &bspModels[ numBSPModels ];
561         e = &entities[ mapEntityNum ];
562         
563         /* ydnar: lightgrid mins/maxs */
564         ClearBounds( lgMins, lgMaxs );
565         
566         /* bound the brushes */
567         ClearBounds( mins, maxs );
568         for ( b = e->brushes; b; b = b->next )
569         {
570                 /* ignore non-real brushes (origin, etc) */
571                 if( b->numsides == 0 )
572                         continue;
573                 AddPointToBounds( b->mins, mins, maxs );
574                 AddPointToBounds( b->maxs, mins, maxs );
575                 
576                 /* ydnar: lightgrid bounds */
577                 if( b->compileFlags & C_LIGHTGRID )
578                 {
579                         AddPointToBounds( b->mins, lgMins, lgMaxs );
580                         AddPointToBounds( b->maxs, lgMins, lgMaxs );
581                 }
582         }
583         
584         /* bound patches */
585         for( p = e->patches; p; p = p->next )
586         {
587                 for( i = 0; i < (p->mesh.width * p->mesh.height); i++ )
588                         AddPointToBounds( p->mesh.verts[i].xyz, mins, maxs );
589         }
590         
591         /* ydnar: lightgrid mins/maxs */
592         if( lgMins[ 0 ] < 99999 )
593         {
594                 /* use lightgrid bounds */
595                 VectorCopy( lgMins, mod->mins );
596                 VectorCopy( lgMaxs, mod->maxs );
597         }
598         else
599         {
600                 /* use brush/patch bounds */
601                 VectorCopy( mins, mod->mins );
602                 VectorCopy( maxs, mod->maxs );
603         }
604         
605         /* note size */
606         Sys_FPrintf( SYS_VRB, "BSP bounds: { %f %f %f } { %f %f %f }\n", mins[ 0 ], mins[ 1 ], mins[ 2 ], maxs[ 0 ], maxs[ 1 ], maxs[ 2 ] );
607         Sys_FPrintf( SYS_VRB, "Lightgrid bounds: { %f %f %f } { %f %f %f }\n", lgMins[ 0 ], lgMins[ 1 ], lgMins[ 2 ], lgMaxs[ 0 ], lgMaxs[ 1 ], lgMaxs[ 2 ] );
608         
609         /* set firsts */
610         mod->firstBSPSurface = numBSPDrawSurfaces;
611         mod->firstBSPBrush = numBSPBrushes;
612 }
613
614
615
616
617 /*
618 EndModel()
619 finish a model's processing
620 */
621
622 void EndModel( entity_t *e, node_t *headnode )
623 {
624         bspModel_t      *mod;
625         
626         
627         /* note it */
628         Sys_FPrintf( SYS_VRB, "--- EndModel ---\n" );
629         
630         /* emit the bsp */
631         mod = &bspModels[ numBSPModels ];
632         EmitDrawNode_r( headnode );
633         
634         /* set surfaces and brushes */
635         mod->numBSPSurfaces = numBSPDrawSurfaces - mod->firstBSPSurface;
636         mod->firstBSPBrush = e->firstBrush;
637         mod->numBSPBrushes = e->numBrushes;
638         
639         /* increment model count */
640         numBSPModels++;
641 }
642
643
644